Як дослідження Amazon спровокували обмеження Білого дому щодо Anthropic

Нещодавній прорив у сфері кібербезпеки, здійснений дослідниками Amazon, викликав хвилю потрясінь в індустрії ШІ, що призвело до значних директив щодо експортного контролю проти Anthropic. Рішення обмежити доступ до передових моделей Anthropic розпалило запеклу дискусію щодо національної безпеки, вразливостей моделей та політичного ландшафту штучного інтелекту.

Дослідження Amazon, що спровокувало заборону

Суперечка зосереджена навколо технічної статті, підготовленої групою досліджень безпеки Amazon. Згідно з повідомленнями Wall Street Journal, дослідники Amazon продемонстрували, що за допомогою певної серії промптів моделями Anthropic Fable 5 та Mythos 5 можна маніпулювати для отримання інформації, здатної сприяти кібератакам.

Повідомляється, що цей висновок був переданий безпосередньо у Білий дім генеральним директором Amazon Енді Джессі. Після цих обговорень уряд видав директиву щодо експортного контролю, яка фактично блокує іноземним громадянам доступ до цих конкретних моделей. Цей крок спричинив миттєву внутрішню кризу в Anthropic, оскільки багато дослідників самої компанії є іноземцями за походженням і тепер позбавлені можливості використовувати саме ту технологію, у створенні якої вони брали участь.

Дискусія про «джейлбрейк» та вразливості моделей

Anthropic оперативно спробувала оскаржити технічну класифікацію інциденту, надану урядом. У той час як адміністрація характеризує експлойт як «джейлбрейк», Anthropic стверджує, що виявлені вразливості не є унікальними для їхньої архітектури. Компанія наполягає на тому, що багато з цих самих прогалин у безпеці можна було б виявити за допомогою інших відомих, загальнодоступних моделей, таких як GPT 5.5.

Цей технічний спір підтримується незалежними експертами з безпеки. Кейті Муссуріс, засновниця та генеральна директорка LutaSecurity, публічно заявила, що висновки в статті Amazon не є традиційним «джейлбрейком». Це розмежування є критично важливим для галузі, оскільки воно ставить під сумнів, чи націлений уряд на конкретні недоліки моделей, чи впроваджує ширші, можливо, реактивні регуляторні заходи.

Політична напруженість та ландшафт ШІ

Ця заборона не існує у вакуумі; вона з'явилася на тлі поглиблення розколу між Anthropic та нинішньою адміністрацією. Anthropic дотримується твердої етичної позиції, відмовляючись дозволяти використання своїх моделей ШІ для масового стеження за громадянами США або розробки летальної автономної зброї.

Повідомляється, що ці етичні обмеження призвели до тертя з адміністрацією Трампа, яка раніше наказала федеральним відомствам припинити використання послуг ШІ від Anthropic. Деякі галузеві спостерігачі, зокрема колишня посадовиця Міністерства торгівлі Кейт Корен, припускають, що нинішня позиція Білого дому щодо Anthropic могла вплинути на швидкість і суворість нещодавніх експортних обмежень. Оскільки моделі ШІ стають дедалі потужнішими, перетин досліджень у сфері кібербезпеки, корпоративної етики та геополітичного контролю стає новим фронтом технологічного регулювання.

Основні висновки

• Тригер безпеки: Дослідження Amazon продемонструвало, що Fable 5 та Mythos 5 можна змусити допомагати у кібератаках, що призвело до федеральних експортних обмежень.
• Супутня шкода: Заборона іноземним громадянам отримувати доступ до моделей Anthropic ненавмисно позбавила багатьох власних дослідників компанії іноземного походження доступу до їхніх інструментів.
• Технічна незгода: Anthropic та експерти з безпеки стверджують, що ця вразливість не є унікальним «джейлбрейком», а є системною проблемою, притаманною іншим моделям, таким як GPT 5.5.