Anthropic staje w obliczu amerykańskiego zakazu eksportu modeli Fable 5 i Mythos 5

Firma Anthropic została zmuszona do nagłego zawieszenia dostępu do swoich najpotężniejszych modeli AI, Fable 5 i Mythos 5, w następstwie niespodziewanej dyrektywy Białego Domu dotyczącej kontroli eksportu w USA. Ten bezprecedensowy krok uwypukla narastające napięcie między gwałtownym rozwojem technologii AI typu frontier a imperatywami bezpieczeństwa narodowego.

Katalizator: Ryzyko cyberbezpieczeństwa i podatności modeli

Impas rozpoczął się krótko po tym, jak 9 czerwca Anthropic wprowadziła na rynek modele Fable 5 i Mythos 5. Podczas gdy Fable 5 był promowany jako wersja z rozszerzonymi zabezpieczeniami do ogólnego użytku, Mythos 5 został zaprojektowany z poluzowanymi barierami ochronnymi (guardrails) na potrzeby specjalistycznych zastosowań. Jednak raporty wskazują, że te środki bezpieczeństwa mogły okazać się niewystarczające.

Według The Wall Street Journal dyrektywa została zainicjowana przez badania nad cyberbezpieczeństwem przeprowadzone przez Amazon. W wyniku rozmów między dyrektorem generalnym Amazon, Andy'm Jassy'm, a Białym Domem ujawniono, że badacze skutecznie wykorzystali specyficzne prompty, aby zmusić Fable 5 do przekazania informacji, które mogłyby ułatwić cyberataki. Choć Anthropic sprzeciwia się tej decyzji, argumentując, że „wąskie, potencjalne złamanie zabezpieczeń” (jailbreak) nie powinno wymagać wycofania modelu udostępnionego setkom milionów użytkowników, reakcja rządu była zdecydowana.

Obawy o bezpieczeństwo narodowe i czynnik chiński

Dyrektywa Białego Domu nie dotyczy wyłącznie podatności oprogramowania, ale również geopolitycznego powstrzymywania (containment). Raporty Semafor sugerują, że decyzja o nałożeniu ograniczeń eksportowych była podyktowana obawami, że do modeli mogły uzyskać dostęp podmioty powiązane z Chinami.

Główna obawa techniczna dotyczy „destylacji modelu” (model distillation) – procesu, w którym mniej zaawansowana AI typu „student” jest trenowana na wynikach generowanych przez model typu frontier, aby odtworzyć jego wyrafinowane zachowanie. Gdyby obcy przeciwnik zdołał skutecznie przeprowadzić destylację Mythos 5 lub Fable 5, mógłby potencjalnie dokonać inżynierii wstecznej zastrzeżonych technologii Anthropic, co stanowiłoby poważne zagrożenie dla bezpieczeństwa narodowego.

Skutki drastycznych kontroli eksportu

Zakres rozporządzenia rządu USA jest niezwykle szeroki. Dyrektywa nakazuje Anthropic zablokowanie dostępu do tych modeli „każdemu obcokrajowcowi” przebywającemu zarówno wewnątrz, jak i poza Stanami Zjednoczonymi. Obejmuje to również zagranicznych naukowców pracujących w Anthropic, co w praktyce uniemożliwia im dostęp do technologii, którą sami pomogli zbudować.

Aby dostosować się do tej dyrektywy prawnej, Anthropic musiało całkowicie wyłączyć produkty, które przed chwilą intensywnie promowało, odcinając dostęp wszystkim klientom na całym świecie, aby upewnić się, że żadni obcokrajowcy nie będą mogli korzystać z tych modeli.

Dlaczego ma to znaczenie dla branży AI

Ten incydent stanowi przełomowy moment w krajobrazie AI. Pokazuje on, że rząd USA jest gotowy stosować agresywne kontrole eksportu, aby zarządzać podwójnym zastosowaniem technologii frontier AI. Dla deweloperów i założycieli jest to ostrzeżenie: przejście od przełomu badawczego do produktu komercyjnego jest obecnie nierozerwalnie związane z nadzorem federalnym i stabilnością geopolityczną. Co więcej, tak stanowcze działania mogą nieumyślnie przyspieszyć dążenie do tworzenia „nieamerykańskiej AI”, ponieważ globalni gracze będą starać się uniknąć zmienności regulacyjnej rynku USA.

Kluczowe wnioski