Anthropic đã triển khai một dấu chìm (watermark) cho văn bản do Claude tạo ra nhằm đáp ứng yêu cầu của Đạo luật AI của EU (EU AI Act) về việc nội dung tổng hợp phải được đánh dấu rõ ràng theo cách mà máy có thể đọc được. Công ty cho biết kỹ thuật này giúp gắn thẻ văn bản do AI viết mà không làm chậm mô hình hoặc sử dụng thêm token, một tuyên bố mà các cơ quan quản lý và đối thủ cạnh tranh sẽ sớm kiểm chứng.

Tại sao dấu chìm lại quan trọng

Dấu chìm lồng ghép các quyết định lựa chọn từ ngữ bằng một khóa riêng tư (private key) và ngữ cảnh xung quanh. Người đọc không thể nhìn thấy quy luật này, nhưng một công cụ xác thực có biết khóa có thể phát hiện ra nó. Trong thực tế, một công cụ hạ nguồn sẽ quét tài liệu và báo cáo liệu Claude có phải là bên tạo ra nó hay không.

Áp lực pháp lý

Đạo luật AI của EU buộc các nhà cung cấp hệ thống tạo sinh phải nhúng các tín hiệu có thể phát hiện được vào nội dung tổng hợp.

Những đánh đổi về mặt kinh doanh

Các công ty phải cân nhắc ba mối quan ngại khi quyết định có áp dụng các dấu hiệu như vậy hay không:

  • Giới hạn khả năng truy xuất nguồn gốc – Dấu chìm xác nhận rằng văn bản đến từ một mô hình AI, nhưng nó không thể liên kết kết quả đầu ra với một người dùng hoặc tài khoản cụ thể. Khoảng trống đó khiến trách nhiệm giải trình vẫn chưa được làm rõ khi nội dung do AI tạo ra bị lạm dụng.
  • Rủi ro doanh thu – Một số nhà cung cấp lo ngại rằng các dấu chìm hiển thị rõ ràng sẽ làm mất đi tới một phần ba khách hàng của họ, những người ưu tiên văn bản không có dấu chìm vì lý do cạnh tranh hoặc quyền riêng tư.
  • Ràng buộc kỹ thuật – Việc nhúng một quy luật có thể làm giảm đi một chút tính sáng tạo trong kết quả đầu ra của mô hình, đặc biệt là trong các đoạn văn rất ngắn khi dấu chìm có ít từ ngữ để hoạt động. Người dùng cũng có thể làm loãng tín hiệu bằng cách diễn đạt lại các phần của văn bản một cách thủ công, khiến việc phát hiện trở nên khó khăn hơn.

Anthropic đặt cược rằng phương pháp của mình sẽ tránh được hầu hết các nhược điểm này. Bằng cách đan xen khóa vào quá trình lựa chọn token, công ty tuyên bố rằng không có tổn thất về độ trễ và không tốn thêm chi phí token, giúp duy trì trải nghiệm người dùng mà các khách hàng trả phí mong đợi.

Thách thức kỹ thuật

Khả năng phát hiện phụ thuộc vào việc công cụ xác thực có cùng khóa riêng tư đã được sử dụng trong quá trình tạo văn bản hay không. Các văn bản ngắn vẫn là một điểm yếu vì quy luật thống kê ít rõ rệt hơn, làm tăng tỷ lệ âm tính giả (false-negative). Dấu chìm cũng không ngăn chặn được việc chỉnh sửa hạ nguồn; một người dùng viết lại một nửa đoạn văn có thể xóa bỏ dấu hiệu một cách hiệu quả.

Bài học rút ra: Dấu chìm của Anthropic đáp ứng một yêu cầu pháp lý mới, nhưng tác động của nó sẽ phụ thuộc vào việc nó cân bằng tốt như thế nào giữa khả năng phát hiện với việc giảm tính linh hoạt và rủi ro bị vượt qua.