Налог на галлюцинации: скрытые издержки в размере $67 миллиардов
Галлюцинации ИИ обходятся бизнесу в 64 миллиарда долларов по всему миру в 2024 году. В 2025 году эта цифра достигнет 67 миллиардов долларов.
В среднем сотрудник тратит 4,3 часа каждую неделю на проверку работы ИИ. Это обходится примерно в 1200 долларов на человека ежегодно. Если в вашей компании из 500 человек работают 200 пользователей ИИ, вы тратите 840 000 долларов в год только на проверку результатов. Эти инструменты должны экономить время, но вместо этого они создают дополнительную работу.
Издержки, связанные с галлюцинациями, делятся на три группы:
- Прямые убытки: ИИ принимает неверное решение в финансовых отчетах или бизнес-аналитике.
- Затраты на исправление: команды тратят дополнительные часы на исправление ошибок и переделку работы.
- Репутационный ущерб: ошибки доходят до клиентов и наносят вред вашему бренду.
Исследователи из MIT обнаружили серьезный риск. Модели ИИ используют уверенный тон на 34% чаще, когда они ошибаются. Они звучат убедительно, даже когда лгут. Данные 2025 года показывают, что современные модели ИИ не могут полностью исключить галлюцинации.
Большинство компаний полагают, что ИИ даст понять, когда он не уверен в ответе. Это заблуждение. Ошибки, которые с наибольшей вероятностью проскочат вашу проверку, — это те, что звучат наиболее уверенно.
Вам необходимо изменить подход к созданию систем ИИ. Приведите уровень проверки в соответствие с уровнем риска.
Следуйте этим шагам:
- Группируйте задачи ИИ в зависимости от того, насколько сильно ошибка может навредить вашему бизнесу.
- Создавайте систему логирования и отслеживания ошибок с первого дня.
- Включайте затраты на проверку ИИ в расчет ROI.
Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi