Модели Anthropic отключены на фоне опасений по поводу безопасности США и связей с Китаем

Anthropic столкнулась с серьезным кризисом после принудительного отключения своих ИИ-моделей Claude Mythos и Fable 5. Сочетание геополитической напряженности, связанной с SK Telecom, и критических уязвимостей в системе безопасности вынудило Белый дом вмешаться напрямую.

Геополитические трения и связь с SK Telecom

Упадок моделей Claude Mythos начался с серьезных опасений в сфере безопасности, связанных с южнокорейским телекоммуникационным гигантом SK Telecom. Через партнерскую программу Anthropic, известную как Project Glasswing, SK Telecom получила доступ к моделям Mythos. Однако официальные лица США выразили обеспокоенность по поводу предполагаемых связей SK Telecom с Китаем, рассматривая это партнерство как потенциальный риск для национальной безопасности.

Хотя SK Telecom отрицает наличие связей с Китаем, история компании в рамках более крупной SK Group привлекла пристальное внимание. SK Group сохраняет значительные деловые интересы в Китае и до 2009 года владела долей в государственном китайском операторе China Unicom. В ответ на эти опасения Белый дом, по сообщениям, поручил Anthropic немедленно прекратить доступ SK Telecom — лаборатория ИИ незамедлительно выполнила это распоряжение.

Уязвимости в Fable 5 и потеря доверия

Ситуация переросла из геополитической проблемы в техническую катастрофу, когда в модели Fable 5 были обнаружены уязвимости в системе безопасности. Крупные игроки отрасли, включая Amazon, указали на критические недостатки, которые могли позволить пользователям обходить установленные ограничения безопасности. Эти уязвимости свидетельствовали о том, что защитных механизмов модели недостаточно для предотвращения нецелевого использования или злонамеренных манипуляций.

Сочетание этих двух инцидентов — предполагаемого риска утечки данных иностранным разведкам через SK Telecom и технического сбоя протоколов безопасности Fable 5 — привело к полной потере доверия со стороны официальных лиц США. В результате Белый дом оказал давление на Anthropic, чтобы те полностью отключили обе модели с целью минимизации потенциальных рисков для национальной безопасности и цифровой безопасности.

Последствия для передовых технологий ИИ

Этот инцидент служит суровым предупреждением для стремительно развивающейся индустрии ИИ, подчеркивая, что техническое совершенство больше не является единственным критерием успеха. Для разработчиков и основателей ИИ кризис Anthropic демонстрирует, что геополитические соображения и принцип «безопасности на этапе проектирования» (safety-by-design) теперь занимают центральное место в нормативно-правовой среде.

По мере того как передовые модели становятся все мощнее, пересечение международных отношений и управления ИИ, вероятно, будет усиливаться. Теперь компаниям приходится ориентироваться в сложной сети государственного надзора, где одно партнерство или один обойденный защитный барьер могут привести к немедленному выводу из эксплуатации флагманской технологии.

Основные выводы

  • Геополитический риск: Предполагаемые связи между SK Telecom и китайскими интересами привели к вмешательству Белого дома, что вынудило Anthropic прекратить доступ через Project Glasswing.
  • Технические уязвимости: Критические недостатки безопасности в модели Fable 5, выявленные Amazon, позволили обойти важнейшие ограничения безопасности.
  • Регуляторное давление: Сочетание проблем национальной безопасности и сбоев в системе безопасности привело к полному отключению моделей Claude Mythos и Fable 5.