Моделі Anthropic вимкнені через побоювання щодо безпеки США та зв'язків із Китаєм
Anthropic переживає серйозну кризу після примусового вимкнення своїх ШІ-моделей Claude Mythos та Fable 5. Поєднання геополітичної напруженості за участю SK Telecom та критичних уразливостей у системі безпеки призвело до прямого втручання Білого дому.
Геополітична напруженість та зв'язок із SK Telecom
Занепад моделей Claude Mythos розпочався з серйозних занепокоєнь щодо безпеки високого рівня, пов'язаних із південнокорейським телекоммунікаційним гігантом SK Telecom. Через партнерську програму Anthropic, відому як Project Glasswing, SK Telecom отримала доступ до моделей Mythos. Однак офіційні особи США забили на сполох через ймовірні зв'язки SK Telecom із Китаєм, розцінюючи це партнерство як потенційний ризик для національної безпеки.
Хоча SK Telecom заперечує наявність зв'язків із Китаєм, історія компанії в межах ширшої SK Group привернула пильну увагу. SK Group має значні бізнес-інтереси в Китаї та до 2009 року володіла часткою в китайському державному операторі China Unicom. У відповідь на ці побоювання Білий дім, за наявними даними, наказав Anthropic негайно припинити доступ SK Telecom — лабораторія ШІ миттєво виконала цю директиву.
Уразливості у безпеці Fable 5 та втрата довіри
Ситуація переросла з геополітичної проблеми в технічну катастрофу, коли в моделі Fable 5 було виявлено уразливості в системі безпеки. Провідні гравці галузі, зокрема Amazon, вказали на критичні недоліки, які могли дозволити користувачам обходити встановлені обмеження безпеки. Ці вразливості свідчили про те, що захисних механізмів моделі було недостатньо для запобігання зловживанням або шкідливим маніпуляціям.
Поєднання цих двох інцидентів — сприйняття ризику розголошення даних іноземним розвідкам через SK Telecom та технічного збою протоколів безпеки Fable 5 — призвело до повної втрати довіри з боку офіційних осіб США. Як наслідок, Білий дім змусив Anthropic повністю вимкнути обидві моделі, щоб мінімізувати потенційні ризики для національної безпеки та цифрової безпеки.
Наслідки для передових технологій ШІ
Цей інцидент слугує суворим попередженням для галузі ШІ, що стрімко розвивається, підкреслюючи, що технічна досконалість більше не є єдиним показником успіху. Для розробників та засновників ШІ криза Anthropic демонструє, що геополітичні міркування та принцип «safety-by-design» тепер є центральними в регуляторному ландшафті.
Оскільки передові моделі стають дедалі потужнішими, перетин міжнародних відносин та управління ШІ, ймовірно, посилюватиметься. Тепер компанії мають орієнтуватися в складній мережі державного нагляду, де одне партнерство або один обхід захисного бар'єра безпеки може призвести до негайного виведення з експлуатації флагманської технології.
Основні висновки
- Геополітичний ризик: Ймовірні зв'язки між SK Telecom та китайськими інтересами призвели до втручання Білого дому, що змусило Anthropic припинити доступ через Project Glasswing.
- Технічні вразливості: Критичні недоліки безпеки в моделі Fable 5, на які вказав Amazon, дозволили обійти основні обмеження безпеки.
- Регуляторний тиск: Поєднання занепокоєнь щодо національної безпеки та збоїв у системі безпеки призвело до повного припинення роботи моделей Claude Mythos та Fable 5.