Pangram, một startup tại New York do các cựu sinh viên AI tại Stanford là Max Spero và Bradley Emi sáng lập, vừa hoàn tất vòng gọi vốn Series A trị giá 9 triệu USD do Menlo Ventures dẫn đầu. Khoản đầu tư này sẽ được dùng để phát triển một API cho các nền tảng và một tiện ích mở rộng Chrome với giá 20 USD/tháng, được cho là có khả năng gắn thẻ các văn bản có sự hỗ trợ của AI với độ chính xác lên tới 99%—một tuyên bố có thể thay đổi cách các nhà báo, học giả và nhà tuyển dụng xác minh tính xác thực.

Sự bùng nổ của "rác" nội dung do AI tạo ra

Các mô hình ngôn ngữ lớn hiện đang sản xuất hàng loạt các bài báo, bài đăng trên mạng xã hội và thậm chí cả các trích dẫn pháp lý. Kết quả là: một làn sóng spam SEO chất lượng thấp, các chiến dịch thông tin sai lệch có phối hợp, và một vùng xám nơi con người chỉ việc trau chuốt lại các bản thảo do AI tạo ra. Các tổ chức đã bắt đầu có những phản ứng. Máy chủ lưu trữ bản thảo tiền ấn phẩm arXiv đã cảnh báo rằng những tác giả nộp các kết quả từ LLM chưa qua kiểm duyệt có thể đối mặt với lệnh cấm kéo dài một năm, và các tòa án đã bắt đầu xử phạt các luật sư dựa vào các trích dẫn giả mạo do AI tạo ra. Áp lực phân biệt giữa sản phẩm của con người và máy móc đang ngày càng tăng, và Panggram đặt cược rằng công nghệ của mình có thể trở thành lớp xác minh mặc định.

Phản chiếu tổng hợp (Synthetic mirroring): huấn luyện trên bản sao của mọi tài liệu

Mô hình chủ lực của Pangram, Pangram 4, sử dụng một phương pháp mà công ty gọi là “synthetic mirroring” (phản chiếu tổng hợp). Đối với mỗi tài liệu do con người viết trong tập dữ liệu huấn luyện của mình—hàng chục triệu tác phẩm đã được xác minh—đội ngũ đã tạo ra một bản đối ứng trên một mô hình LLM tiên tiến. Bản sao tổng hợp này khớp với bản gốc về chủ đề, độ dài và giọng văn nhưng được tạo ra bởi AI. Bằng cách đưa cả hai phiên bản vào cùng một mạng thần kinh, Pangram dạy mô hình cách phát hiện các dấu vết thống kê tinh vi tồn tại trong văn bản do AI tạo ra, ngay cả khi người viết sử dụng các công cụ “AI humanizer” (nhân hóa AI) được thiết kế để che giấu đầu ra của máy móc.

Các đối thủ cạnh tranh dựa vào siêu dữ liệu (metadata) hoặc các dấu chìm (watermark) vô hình, vốn có thể bị gỡ bỏ hoặc bị bỏ qua. Thay vào đó, Pangram tập trung vào phân tích phong cách: các quy luật trong cách chọn từ, nhịp điệu câu và sự phân bổ token vốn vẫn nhất quán trong đầu ra của một mô hình. Theo thông cáo của công ty, trong các thử nghiệm nội bộ, hệ thống đã gắn thẻ các bài viết có sự hỗ trợ của AI với độ chính xác 99%.

Từ API đến trình duyệt: công nghệ sẽ hiện diện ở đâu

Pangram định vị mình là một cơ sở hạ tầng thay vì một ứng dụng đơn mục đích. API của họ đã tích hợp với Substack, nơi các bản tin (newsletters) hiển thị nhãn cho biết tỷ lệ nội dung do AI tạo ra. Những người dùng sớm cũng bao gồm nền tảng hỏi đáp Quora, một số trung tâm viết lách của các trường đại học và các công ty tuyển dụng cần xác minh tính nguyên bản trong các bài nộp của ứng viên.

Đối với người dùng cá nhân, startup này cung cấp một tiện ích mở rộng Chrome hiển thị “feed health score” (điểm sức khỏe nguồn cấp dữ liệu) trên các trang web như X, LinkedIn, Reddit và Medium. Điểm số này phân tích tỷ lệ phần trăm văn bản mà mô hình tin rằng là do con người viết so với AI. Người đăng ký trả 20 USD mỗi tháng để được gắn nhãn theo thời gian thực và có khả năng gắn thẻ các đoạn văn nghi vấn để xem xét thêm.

Một cái nhìn hoài nghi

Các tuyên bố về độ chính xác chắc chắn sẽ thu hút sự giám sát. Việc phát hiện sự hỗ trợ của AI trong “vùng xám”—nơi người viết chỉnh sửa một bản thảo do mô hình tạo ra—vẫn là một mục tiêu luôn thay đổi. Khi các mô hình tạo sinh cải tiến, khoảng cách về phong cách mà Pangram dựa vào có thể thu hẹp lại, dẫn đến một cuộc chạy đua vũ trang giữa các kỹ thuật phát hiện và kỹ thuật lẩn tránh. Các nhà phê bình cũng cảnh báo về các trường hợp dương tính giả: việc gắn nhãn một tác phẩm chính thống của con người là do AI tạo ra có thể gây tổn hại đến danh tiếng, đặc biệt là trong các bối cảnh học thuật hoặc pháp lý nơi có rủi ro cao.

Pangram thừa nhận thách thức này, lưu ý rằng họ liên tục huấn luyện lại mô hình của mình trên các bản phản chiếu tổng hợp mới khi các LLM mới xuất hiện. Tuy nhiên, công ty vẫn chưa công bố các kết quả kiểm chuẩn (benchmark) độc lập ngoài các thử nghiệm nội bộ, để cộng đồng rộng lớn hơn tự xác minh con số 99%.

Những điều cần theo dõi

Những tháng tới sẽ cho thấy liệu Pangram có thể tiến xa hơn các tích hợp thử nghiệm để được các nền tảng áp dụng rộng rãi hay không. Các chỉ số chính bao gồm:

  • Mở rộng các hợp đồng API ngoài danh sách các đối tác sớm hiện tại.
  • Phản hồi từ người dùng tổ chức về tỷ lệ dương tính giả và tác động đến quy trình biên tập.
  • Phản ứng từ các nhà phát triển LLM, những người có thể đáp trả bằng các bản cập nhật mô hình nhằm bắt chước phong cách con người một cách chặt chẽ hơn.
  • Các diễn biến về quy định có thể khiến các công cụ phát hiện AI trở thành bắt buộc đối với một số ấn phẩm hoặc bài nộp học thuật nhất định.

Nếu startup này giữ vững lợi thế phát hiện trong khi vẫn duy trì tỷ lệ lỗi thấp, nó có thể trở thành một tiêu chuẩn thực tế (de-facto standard) cho tính xác thực kỹ thuật số. Nếu không, thị trường có thể bị phân mảnh thành một tập hợp các công cụ cạnh tranh, mỗi công cụ đều có những đánh đổi riêng.

Điểm mấu chốt

Khoản rót vốn 9 triệu USD của Pangram đang thúc đẩy một chiến lược phát hiện dựa trên cơ chế huấn luyện tài liệu kép, nhằm khẳng định khả năng nhận diện sự hỗ trợ của AI với độ chính xác gần như tuyệt đối. Thành công của chiến lược này sẽ phụ thuộc vào việc liệu phương pháp đó có khả năng mở rộng trên các mô hình ngôn ngữ đang không ngừng phát triển, đồng thời có giành được sự tin tưởng từ các nền tảng và tổ chức đang có nhu cầu cấp thiết nhất hay không.