Anthropic столкнулась с запретом на экспорт в США из-за моделей Fable 5 и Mythos 5

Компания Anthropic была вынуждена внезапно приостановить доступ к своим самым мощным моделям ИИ, Fable 5 и Mythos 5, после неожиданного указа Белого дома о контроле экспорта в США. Этот беспрецедентный шаг подчеркивает растущую напряженность между стремительным развитием передовых технологий ИИ и императивами национальной безопасности.

Катализатор: риски кибербезопасности и уязвимости моделей

Противостояние началось вскоре после запуска Fable 5 и Mythos 5 компанией Anthropic 9 июня. В то время как Fable 5 позиционировалась как версия с усиленными мерами защиты для общего использования, Mythos 5 была разработана с ослабленными ограничениями для специализированных приложений. Однако, согласно сообщениям, этих мер безопасности могло быть недостаточно.

По данным The Wall Street Journal, поводом для издания указа стали исследования в области кибербезопасности, проведенные Amazon. После обсуждений между генеральным директором Amazon Энди Джесси и Белым домом выяснилось, что исследователям удалось использовать специфические промпты, чтобы заставить Fable 5 предоставлять информацию, которая могла бы способствовать проведению кибератак. Хотя Anthropic выступила с возражениями, утверждая, что «узкая возможность джейлбрейка» не должна становиться причиной отзыва модели, развернутой для сотен миллионов пользователей, реакция правительства была решительной.

Опасения национальной безопасности и «китайский фактор»

Указ Белого дома касается не только уязвимостей программного обеспечения, но и геополитического сдерживания. Согласно сообщениям Semafor, решение о введении экспортных ограничений было продиктовано опасениями, что к моделям могли получить доступ структуры, связанные с Китаем.

Основная техническая проблема связана с «дистилляцией моделей» (model distillation) — процессом, при котором менее продвинутый ИИ-«ученик» обучается на результатах работы передовой модели, чтобы воспроизвести её сложное поведение. Если иностранный противник сможет успешно провести дистилляцию Mythos 5 или Fable 5, он потенциально сможет осуществить обратную разработку проприетарных возможностей Anthropic, что создаст значительный риск для национальной безопасности.

Последствия жесткого экспортного контроля

Масштаб распоряжения правительства США поразительно широк. Директива обязывает Anthropic заблокировать доступ к этим моделям для «любого иностранного гражданина», находящегося как внутри, так и за пределами Соединенных Штатов. Это касается и собственных иностранных исследователей Anthropic, что фактически лишает их возможности пользоваться той самой технологией, которую они помогали создавать.

Чтобы выполнить это юридическое предписание, Anthropic пришлось полностью отключить продукты, которые компания только что неделю активно рекламировала, закрыв доступ для всех клиентов по всему миру, чтобы гарантировать, что никакие иностранные граждане не смогут использовать эти модели.

Почему это важно для индустрии ИИ

Этот инцидент знаменует собой поворотный момент в ландшафте ИИ. Он демонстрирует, что правительство США готово использовать агрессивный экспортный контроль для управления технологиями двойного назначения в сфере передового ИИ. Для разработчиков и основателей это служит предупреждением: переход от исследовательского прорыва к коммерческому продукту теперь неразрывно связан с федеральным надзором и геополитической стабильностью. Более того, подобная жесткость может непреднамеренно ускорить стремление к созданию «неамериканского ИИ», поскольку глобальные игроки будут пытаться избежать регуляторной нестабильности на рынке США.

Ключевые выводы