Как исследование Amazon спровоцировало ограничения Белого дома в отношении Anthropic
Недавний прорыв в области кибербезопасности, совершенный исследователями Amazon, вызвал потрясение в индустрии ИИ, что привело к принятию значимых директив по экспортному контролю в отношении Anthropic. Решение ограничить доступ к передовым моделям Anthropic спровоцировало ожесточенные споры, касающиеся национальной безопасности, уязвимостей моделей и политического ландшафта искусственного интеллекта.
Исследование Amazon, спровоцировавшее запрет
В центре спора находится техническая работа, подготовленная группой исследователей безопасности Amazon. Согласно сообщениям Wall Street Journal, исследователи Amazon продемонстрировали, что с помощью определенной серии промптов моделями Anthropic Fable 5 и Mythos 5 можно манипулировать таким образом, чтобы они предоставляли информацию, способную способствовать проведению кибератак.
Сообщается, что генеральный директор Amazon Энди Джесси передал эти результаты напрямую в Белый дом. По итогам этих обсуждений правительство издало директиву по экспортному контролю, которая фактически блокирует иностранным гражданам доступ к этим конкретным моделям. Этот шаг вызвал немедленный внутренний кризис в Anthropic, поскольку многие исследователи самой компании являются иностранцами и теперь лишены возможности использовать ту самую технологию, которую они помогали создавать.
Дебаты о «джейлбрейке» и уязвимости моделей
Компания Anthropic оперативно выступила против технической классификации инцидента, предложенной правительством. В то время как администрация характеризует эксплойт как «джейлбрейк» (jailbreak), Anthropic утверждает, что выявленные уязвимости не являются уникальными для их архитектуры. Компания заявляет, что многие из этих же пробелов в безопасности можно обнаружить и в других известных, общедоступных моделях, таких как GPT 5.5.
Этот технический спор находит поддержку у независимых экспертов по безопасности. Кейти Муссурис, основатель и генеральный директор LutaSecurity, публично заявила, что выводы в работе Amazon не являются традиционным «джейлбрейком». Это различие имеет решающее значение для индустрии, так как оно ставит вопрос о том, нацелено ли правительство на конкретные недостатки моделей или же оно внедряет более широкие, возможно, реактивные регуляторные меры.
Политическая напряженность и ландшафт ИИ
Этот запрет не возник в вакууме; он накладывается на углубляющийся разрыв между Anthropic и нынешней администрацией. Anthropic придерживается твердой этической позиции, отказываясь разрешать использование своих моделей ИИ для массовой слежки за гражданами США или разработки летального автономного оружия.
Сообщается, что эти этические ограничения привели к трениям с администрацией Трампа, которая ранее поручила федеральным агентствам прекратить использование ИИ-сервисов Anthropic. Некоторые отраслевые наблюдатели, включая бывшего чиновника Министерства торговли Кейт Корен, предполагают, что существующая позиция Белого дома в отношении Anthropic могла повлиять на скорость и строгость недавних экспортных ограничений. По мере того как модели ИИ становятся все более совершенными, пересечение исследований в области кибербезопасности, корпоративной этики и геополитического контроля становится новым фронтом технологического регулирования.
Основные выводы
- Триггер безопасности: Исследование Amazon показало, что Fable 5 и Mythos 5 можно спровоцировать на помощь в кибератаках, что привело к федеральным экспортным ограничениям.
- Сопутствующий ущерб: Запрет на доступ иностранных граждан к моделям Anthropic непреднамеренно закрыл доступ к собственным инструментам многим исследователям компании иностранного происхождения.
- Техническое разногласие: Anthropic и эксперты по безопасности утверждают, что данная уязвимость является не уникальным «джейлбрейком», а системной проблемой, характерной и для других моделей, таких как GPT 5.5.