USA zmuszają Anthropic do wyłączenia modeli AI
Rząd USA nakazał Anthropic wyłączenie dwóch zaawansowanych modeli AI. Modelami tymi są Fable 5 oraz Mythos 5. Nakaz dotyczy wszystkich użytkowników na całym świecie.
Departament Handlu wydał dyrektywę dotyczącą kontroli eksportu 12 czerwca 2026 r. Stało się to z powodu prostej luki w zabezpieczeniach. Trzywyrazowa komenda „fix this code” umożliwia obejście zabezpieczeń (jailbreak).
Jak działa ta luka:
- Badacze odkryli, że Fable 5 tworzy działające poprawki dla niezałatanych fragmentów kodu.
- Pomaga to obrońcom w naprawianiu luk w zabezpieczeniach.
- Jednak atakujący wykorzystują tę samą metodę do automatycznego znajdowania błędów w bazach kodu.
Zakaz jest surowy. Przepisy eksportowe USA klasyfikują udostępnianie tej technologii osobom niebędącym obywatelami USA jako eksport. Aby zachować zgodność z przepisami, Anthropic musiało wyłączyć modele dla wszystkich użytkowników.
Branża reaguje z niepokojem. Ponad 100 ekspertów z takich firm jak Google, Nvidia i Adobe podpisało otwarty list. Argumentują oni, że te kontrole szkodzą obrońcom. Uważają, że ten krok daje przewagę przeciwnikom, którzy rozwijają własną sztuczną inteligencję.
Kluczowe fakty na temat modeli: • Mythos 5 to model bazowy, który potrafi identyfikować i łączyć ataki cybernetyczne w ciągi. • Fable 5 to wersja zaprojektowana do celów defensywnych, wyposażona w mechanizmy bezpieczeństwa (safety guardrails). • Mythos 5 przeszedł wcześniej testy cyberbezpieczeństwa przeprowadzone przez brytyjski UK AI Security Institute.
Anthropic nie zgadza się z tą decyzją. Twierdzą, że ryzyko obejścia zabezpieczeń (jailbreak) jest niewielkie. Argumentują, że wyłączanie modeli z powodu pojedynczej, wąskiej luki wstrzymałoby wdrażanie wszelkich nowych rozwiązań AI.
Ten krok wpływa również na sojuszników USA. Kraje takie jak Kanada i Wielka Brytania polegają na tych modelach w celu ochrony infrastruktury krytycznej. Zakaz odcina również ich dostęp.
Sytuacja ta pokazuje napięcie między innowacjami w dziedzinie AI a bezpieczeństwem narodowym. Rodzi to pytanie, czy obecne przepisy są w stanie poradzić sobie z narzędziami, które reagują na prostą, trzywyrazową frazę.
Źródło: https://dev.to/techmag/us-forces-anthropic-to-shut-down-fable-5-mythos-5-over-security-flaw-4dlm
Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi