Звіт Stanford’s 2026 AI Index показує, що кількість інцидентів, пов'язаних із безпекою, минулого року зросла до 362, що підкреслює зростаючу прірву між стрімким вдосконаленням моделей та відставанням засобів захисту, покликаних забезпечити їхню надійність. Кожен неконтрольований збій підриває довіру до систем, які вже впроваджені у фінанси, охорону здоров'я та державні послуги.
Дані, що стоять за цією прірвою
Індекс, складений Інститутом штучного інтелекту, орієнтованого на людину (Institute for Human-Centered Artificial Intelligence), зіставляє показники продуктивності з реальною надійністю. Моделі найвищого рівня все ще блискуче проходять бенчмарки, проте рівень їхніх «галюцинацій» — випадків, коли вони генерують неправдиві або сфабриковані твердження — становить приголомшливі від 22% до 94% у всій галузі. Коли користувачі надають моделям навмисно хибні передумови, точність GPT-4o падає з 98,2% до 64,4%; DeepSeek R1 у тому ж тесті падає з понад 90% до 14,4%. Засоби захисту (guardrails), які мають блокувати шкідливі запити, регулярно виявляються неефективними, коли зловмисники намагаються їх протестувати.
Чому компанії намагаються наздогнати ситуацію
Впровадження політик випереджає їхнє виконання. Частка фірм, які не мають жодного управління ШІ (AI governance), скоротилася з 24% до 11% між попереднім опитуванням і цим роком, і багато хто зараз посилається на такі стандарти, як ISO/IEC 42001 або NIST AI Risk Management Framework. Розробка політики — це не те саме, що дотримання її на практиці. Внутрішні прогалини в знаннях стосуються 59% респондентів, бюджетні обмеження заважають 48%, а регуляторна невизначеність турбує 41%. У звіті це називають «технічною проблемою»: посилення контролю за конфіденційністю може ненавмисно послабити метрики справедливості, і навпаки, змушуючи інженерів балансувати між протилежними цілями без належних інструментів або фінансування.
Ілюзія поточних перевірок безпеки
Показники прозорості — сукупний показник того, наскільки відкрито розробники розкривають обмеження моделей та методи тестування — впали з 58 до 40, що свідчить про втрату довіри до добровільної звітності. Компанії покладаються на внутрішні аудити, які часто пропускають збої у граничних випадках (edge cases), зафіксовані в Індексі. Результатом є хибне відчуття безпеки: організації вважають, що вони захищені, тоді як приховані вразливості залишаються.
Контраргумент: стандарти набирають обертів
Прихильники стверджують, що посилання на структури ISO та NIST є кроком уперед. Формальні стандарти надають аудиторам і регуляторам спільну мову та базові очікування, що полегшує порівняння між компаніями. Ті, хто впроваджує їх першими, повідомляють про кращу внутрішню узгодженість та чіткіші шляхи ескалації за наявності політики. Зростання впровадження політик свідчить про те, що галузь усвідомлює ризики та готова інвестувати в управління.
Чого все ще бракує
Навіть за наявності політик на папері, їх виконання зазнає невдач. Індекс виділяє три практичні перешкоди:
- Прогалини в знаннях: командам бракує глибокої експертизи в ризиках ШІ, що призводить до поверхневих перевірок на відповідність.
- Брак фінансування: інструменти безпеки, сторонні аудити та безперервний моніторинг потребують бюджетів, які багато фірм не можуть обґрунтувати.
- Регуляторна невизначеність: неоднозначні або такі, що постійно змінюються, закони ускладнюють розробку довгострокових планів відповідності.
Вирішення цих проблем, ймовірно, потребуватиме зовнішнього підтвердження. У звіті рекомендується перейти від самооцінки до незалежних оцінок, які моделюють реальне використання та атаки зловмисників. Також звучить заклик до інженерних рішень, які вбудовують перевірки безпеки безпосередньо в конвеєри (pipelines) моделей, а не розглядають їх як другорядні заходи.