Отчет Stanford 2026 AI Index показывает, что количество инцидентов, связанных с безопасностью, в прошлом году выросло до 362, что подчеркивает растущую пропасть между стремительным совершенствованием моделей и отстающими мерами защиты, призванными обеспечить их надежность. Каждый бесконтрольный сбой подрывает доверие к системам, которые уже внедрены в финансы, здравоохранение и государственные службы.
Данные, стоящие за этим разрывом
Индекс, составленный Институтом человекоцентричного искусственного интеллекта (HAI), сопоставляет основные показатели производительности с реальной надежностью. Модели высшего уровня по-прежнему блестяще справляются с бенчмарками, однако уровень их «галлюцинаций» — случаев генерации ложных или вымышленных утверждений — варьируется в ошеломляющем диапазоне от 22% до 94% по всей отрасли. Когда пользователи предоставляют моделям заведомо ложные предпосылки, точность GPT-4o падает с 98,2% до 64,4%; DeepSeek R1 в ходе того же теста снижается с чуть более 90% до 14,4%. Защитные барьеры, которые должны блокировать вредоносные запросы, регулярно рушатся при попытках их взлома.
Почему компании пытаются наверстать упущенное
Внедрение политик опережает контроль за их соблюдением. Доля компаний, не имеющих какого-либо управления ИИ, сократилась с 24% до 11% по сравнению с предыдущим опросом, и многие теперь ссылаются на такие стандарты, как ISO/IEC 42001 или NIST AI Risk Management Framework. Разработка политики — это не то же самое, что следование ей на практике. Внутренний дефицит знаний отмечают 59% респондентов, бюджетные ограничения мешают 48%, а регуляторная неопределенность беспокоит 41%. В отчете это называется «технической проблемой»: усиление контроля конфиденциальности может непреднамеренно ослабить показатели справедливости (fairness metrics), и наоборот, заставляя инженеров балансировать между противоречивыми целями без адекватных инструментов или финансирования.
Иллюзия текущих проверок безопасности
Показатели прозрачности — совокупный показатель того, насколько открыто разработчики раскрывают ограничения моделей и методы тестирования — снизились с 58 до 40, что указывает на потерю доверия к добровольной отчетности. Компании полагаются на внутренние аудиты, которые часто упускают сбои в пограничных случаях, зафиксированные в Индексе. Результатом становится ложное чувство безопасности: организации верят, что они защищены, в то время как скрытые уязвимости сохраняются.
Контраргумент: стандарты набирают обороты
Сторонники утверждают, что использование фреймворков ISO и NIST — это шаг вперед. Официальные стандарты дают аудиторам и регуляторам общий язык и базовые ожидания, что облегчает сравнение компаний между собой. Компании, внедрившие решения первыми, сообщают о более слаженной внутренней работе и четких путях эскалации при наличии политики. Рост внедрения политик свидетельствует о том, что индустрия осознает риски и готова инвестировать в управление.
Чего все еще не хватает
Даже при наличии политик на бумаге, их реализация дает сбои. Индекс выделяет три практических препятствия:
- Дефицит знаний: командам не хватает глубокой экспертизы в области рисков ИИ, что приводит к поверхностным проверкам на соответствие требованиям.
- Недостаток финансирования: инструменты обеспечения безопасности, сторонние аудиты и непрерывный мониторинг требуют бюджетов, которые многие фирмы не могут обосновать.
- Регуляторная неопределенность: двусмысленные или постоянно меняющиеся законы затрудняют разработку долгосрочных планов по обеспечению соответствия.
Решение этих проблем, вероятно, потребует внешней валидации. В отчете рекомендуется перейти от самооценки к независимым проверкам, которые имитируют реальное использование и состязательные атаки. Также содержится призыв к инженерным решениям, которые внедряют проверки безопасности непосредственно в конвейеры моделей (model pipelines), а не рассматривают их как второстепенную задачу.