Anthropic стикається з забороною США на експорт моделей Fable 5 та Mythos 5

Anthropic була змушена раптово призупинити доступ до своїх найпотужніших моделей ШІ, Fable 5 та Mythos 5, після несподіваної директиви Білого дому щодо експортного контролю США. Цей безпрецедентний крок підкреслює зростаючу напруженість між стрімким розвитком передових технологій ШІ та імперативами національної безпеки.

Каталізатор: ризики кібербезпеки та вразливості моделей

Протистояння розпочалося невдовзі після того, як 9 червня Anthropic запустила Fable 5 та Mythos 5. У той час як Fable 5 позиціонувалася як версія з посиленими засобами захисту для загального використання, Mythos 5 була розроблена з певними послабленими обмеженнями для спеціалізованих застосувань. Однак, згідно з повідомленнями, цих заходів безпеки могло бути недостатньо.

За даними The Wall Street Journal, директива була спровокована дослідженнями у сфері кібербезпеки, проведеними Amazon. Після обговорень між генеральним директором Amazon Енді Джассі та Білим домом з'ясувалося, що дослідники успішно використали специфічні промпти, щоб змусити Fable 5 надавати інформацію, яка могла б сприяти кібератакам. Хоча Anthropic виступила з протестом, стверджуючи, що «вузька потенційна можливість зламу» не повинна ставати причиною відкликання моделі, що вже розгорнута для сотень мільйонів користувачів, реакція уряду була рішучою.

Побоювання щодо національної безпеки та чинник Китаю

Директива Білого дому стосується не лише вразливостей програмного забезпечення, а й геополітичного стримування. Згідно зі звітами Semafor, рішення про запровадження експортних обмежень було зумовлене побоюваннями, що доступ до моделей могли отримати структури, пов'язані з Китаєм.

Основне технічне занепокоєння викликає «дистиляція моделі» (model distillation) — процес, за якого менш досконалий ШІ-«учень» навчається на результатах роботи передової моделі, щоб відтворити її складну поведінку. Якщо іноземний противник успішно проведе дистиляцію Mythos 5 або Fable 5, він потенційно зможе здійснити зворотне проектування запатентованих можливостей Anthropic, що створить значний ризик для національної безпеки.

Вплив екстремального експортного контролю

Сфера дії розпорядження уряду США є надзвичайно широкою. Директива зобов'язує Anthropic заблокувати доступ до цих моделей для «будь-якого іноземного громадянина», що перебуває як у Сполучених Штатах, так і за їхніми межами. Це стосується навіть власних дослідників Anthropic, народжених за кордоном, що фактично позбавляє їх можливості користуватися тією самою технологією, у створенні якої вони брали участь.

Щоб виконати цю юридичну директиву, Anthropic довелося повністю вимкнути продукти, які компанія лише тиждень тому активно рекламувала, припинивши доступ для всіх клієнтів по всьому світу, щоб гарантувати, що жоден іноземний громадянин не зможе використовувати ці моделі.

Чому це важливо для індустрії ШІ

Цей інцидент є поворотним моментом у сфері ШІ. Він демонструє, що уряд США готовий використовувати агресивний експортний контроль для управління подвійним призначенням передових моделей ШІ. Для розробників і засновників це слугує попередженням: перехід від наукового прориву до комерційного продукту тепер нерозривно пов'язаний із федеральним наглядом та геополітичною стабільністю. Крім того, така жорсткість може ненавмисно прискорити розвиток «неамериканського ШІ», оскільки глобальні гравці намагатимуться уникнути регуляторної нестабільності ринку США.

Основні висновки