KPMG đã dùng AI để viết một báo cáo về AI. Và nó đã thất bại.

KPMG cung cấp các tư vấn về cách sử dụng AI một cách có trách nhiệm.

Vào tháng 10 năm 2025, họ đã công bố một báo cáo về Agentic AI. Họ đã sử dụng AI để viết báo cáo đó.

Kết quả là một thảm họa.

Một cuộc kiểm toán của GPTZero cho thấy AI đã tự bịa ra 88% các nguồn tài liệu.

Dưới đây là các sự thật từ báo cáo của KPMG:

Báo cáo khẳng định các công ty lớn như UBS và NHS đang sử dụng Agentic AI. Các công ty này cho biết những tuyên bố đó là sai sự thật hoặc gây hiểu lầm. KPMG đã sử dụng logo của họ cho một nội dung hư cấu mà không có sự cho phép.

Đây là một vấn đề mới được gọi là "vibe citing".

"Vibe citing" xảy ra khi bạn sử dụng AI để tạo danh mục tài liệu tham khảo. AI tạo ra các tài liệu tham khảo trông có vẻ hoàn hảo. Tiêu đề nghe rất học thuật. Ngày tháng trông có vẻ đúng. Định dạng thì chính xác. Nhưng nội dung lại là giả.

AI không biết sự khác biệt giữa việc ghi nhớ và việc bịa đặt. Nó chỉ biết cách tạo ra những gì phù hợp với khuôn mẫu.

Đây không chỉ là một lỗi kỹ thuật. Đó là một sự thất bại trong quy trình.

KPMG có 250.000 nhân viên. Họ đã công bố một báo cáo với độ chính xác chỉ 11%. Họ đã thất bại trong việc xác minh dù chỉ một nguồn duy nhất trước khi nhấn nút xuất bản.

Nguy hiểm không chỉ dừng lại ở một báo cáo tồi.

Vì KPMG là một nguồn có uy tín cao, các trình thu thập dữ liệu web (web crawlers) đã lập chỉ mục dữ liệu giả này. Giờ đây, các mô hình AI khác như ChatGPT và Gemini đang hấp thụ dữ liệu sai lệch này. Chúng coi đó là sự thật.

Chu kỳ này diễn ra như sau:

AI không phải là vấn đề. Vấn đề nằm ở áp lực phải tỏ ra am hiểu mà không thực sự làm việc.

Sử dụng AI mà không có quy trình xác minh bởi con người không phải là hiệu quả. Đó là việc giao phó sự thật cho một hệ thống không có khái niệm về sự thật.

Đừng chỉ tỏ ra là mình biết. Hãy thực sự biết.

Source: https://gptzero.me/news/investigations-kpmg/

Optional learning community: https://t.me/GyaanSetuAi