США заставляют Anthropic отключить модели ИИ
Правительство США распорядилось, чтобы Anthropic отключила две продвинутые модели ИИ. Этими моделями являются Fable 5 и Mythos 5. Распоряжение касается всех пользователей по всему миру.
Министерство торговли выпустило директиву об экспортном контроле 12 июня 2026 года. Это произошло из-за простой уязвимости в системе безопасности. Промпт из трех слов «fix this code» позволяет осуществить джейлбрейк.
Как работает эта уязвимость:
- Исследователи обнаружили, что Fable 5 создает рабочие патчи для непропатченного кода.
- Это помогает защитникам устранять бреши в безопасности.
- Однако злоумышленники используют тот же метод для автоматического поиска уязвимостей в кодовых базах.
Запрет является строгим. Правила экспорта США классифицируют передачу этой технологии лицам, не являющимся гражданами США, как экспорт. Чтобы соблюсти требования, Anthropic пришлось отключить модели для всех пользователей.
Индустрия реагирует с обеспокоенностью. Более 100 экспертов из таких компаний, как Google, Nvidia и Adobe, подписали открытое письмо. Они утверждают, что подобные меры контроля вредят защитникам. По их мнению, этот шаг дает преимущество противникам, которые разрабатывают собственный ИИ.
Ключевые факты о моделях: • Mythos 5 — это базовая модель, способная идентифицировать и выстраивать цепочки кибератак. • Fable 5 — версия, предназначенная для оборонительного использования с защитными механизмами (guardrails). • Mythos 5 ранее прошла тесты по кибербезопасности в UK AI Security Institute.
Anthropic не согласна с этим решением. Компания заявляет, что риск джейлбрейка невелик. Они утверждают, что остановка моделей из-за узкоспециализированной уязвимости приведет к прекращению внедрения всех новых систем ИИ.
Этот шаг также затрагивает союзников США. Такие страны, как Канада и Великобритания, полагаются на эти модели для защиты критически важной инфраструктуры. Запрет ограничивает и их доступ.
Ситуация демонстрирует напряженность между инновациями в сфере ИИ и национальной безопасностью. Она ставит вопрос о том, способны ли нынешние законы справиться с инструментами, которые реагируют на простую фразу из трех слов.
Source: https://dev.to/techmag/us-forces-anthropic-to-shut-down-fable-5-mythos-5-over-security-flaw-4dlm
Optional learning community: https://t.me/GyaanSetuAi