KPMG использовала ИИ для написания отчета об ИИ. Это закончилось провалом.
KPMG продает консультации о том, как ответственно использовать ИИ.
В октябре 2025 года они опубликовали отчет об Agentic AI. Для его написания они использовали ИИ.
Результаты оказались катастрофическими.
Аудит, проведенный GPTZero, показал, что ИИ выдумал 88% источников.
Вот факты из отчета KPMG:
- Всего цитат: 45
- Реальных цитат: 5
- Выдуманных цитат: 40
- Уровень точности: 11,1%
В отчете утверждалось, что такие крупные компании, как UBS и NHS, используют Agentic AI. Эти компании заявили, что данные утверждения ложны или вводят в заблуждение. KPMG использовала их логотипы в вымышленном тексте без разрешения.
Это новая проблема, называемая «vibe citing».
Vibe citing происходит, когда вы используете ИИ для создания библиографии. ИИ создает ссылки, которые выглядят идеально. Названия звучат академично. Даты выглядят правильными. Формат соблюден. Но само содержание — фейк.
ИИ не видит разницы между воспоминанием и выдумкой. Он умеет только генерировать то, что соответствует шаблону.
Это не просто техническая ошибка. Это сбой в процессе.
В KPMG работает 250 000 сотрудников. Они опубликовали отчет с точностью 11%. Они не проверили ни одного источника перед публикацией.
Опасность выходит далеко за рамки одного неудачного отчета.
Поскольку KPMG является авторитетным источником, веб-краулеры проиндексировали эти ложные данные. Теперь другие модели ИИ, такие как ChatGPT и Gemini, поглощают эту недостоверную информацию. Они воспринимают её как истину.
Цикл выглядит так:
- ИИ галлюцинирует данными
- Крупная компания публикует их без проверки
- Поисковые системы индексируют это как факт
- Другие модели ИИ усваивают это как истину
- Пользователи получают галлюцинации в качестве фактов
Проблема не в ИИ. Проблема в давлении необходимости казаться осведомленным, не прикладывая реальных усилий.
Использование ИИ без цикла человеческой проверки — это не эффективность. Это делегирование истины системе, у которой нет самого понятия истины.
Перестаньте имитировать знания. Начните знать.
Источник: https://gptzero.me/news/investigations-kpmg/
Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi