US-Regierung vs. Anthropic: Die unmögliche Forderung nach unhackbarbaren LLMs

Ein wachsender Riss ist zwischen der US-Regierung und Anthropic nach der Veröffentlichung des Fable 5-Modells entstanden und hat eine Debatte über KI-Sicherheit und regulatorische Aufsicht entfacht. Während Beamte dem KI-Labor vorwerfen, Exekutivverordnungen zu umgehen, tritt eine tiefere technische Spannung zutage: die Forderung der Regierung nach „unhackbarbaren“ Frontier-Modellen.

Der Konflikt um Fable 5 und Cyber-Richtlinien

Die Spannungen resultieren aus der Entscheidung von Anthropic, sein neuestes Modell Fable 5 zu veröffentlichen, bevor eine staatliche Clearingstelle – die durch eine jüngste Cyber-Exekutivverordnung der Trump-Administration vorgeschrieben wurde – voll einsatzbereit war. Obwohl die Verordnung eine freiwillige Aufsicht vorsah, behaupten Regierungsvertreter, Anthropic habe den Geist der Richtlinie ignoriert, was zu Vorwürfen führte, das Unternehmen handele als „böswilliger Akteur“.

Aktuelle Diskussionen unter Beteiligung des Handelsministeriums, der CIA und des Wissenschaftsberaters Michael Kratsios verdeutlichen eine massive Kommunikationslücke. Beamte äußerten die Besorgnis, dass Anthropic trotz des Wissens um ein „Jailbreak“-Risiko fortgefahren sei – ein Hinweis, der Berichten zufolge von Amazon und anderen Partnern aus der Tech-Branche stammte. Die Reibung scheint jedoch ebenso sehr den regulatorischen Zeitplan wie die technische Sicherheit zu betreffen.

Die technische Realität: Können LLMs jemals unhackbar sein?

Der Kern der Kritik der Regierung – dass Anthropic „die falsche Abzweigung genommen“ habe, indem es potenzielle Jailbreaks ignorierte – ignoriert eine grundlegende Realität der Architektur von Large Language Models (LLM). In der KI-Branche besteht Konsens darüber, dass absolute Sicherheit derzeit unmöglich ist. Selbst OpenAI hat eingeräumt, dass Schwachstellen wie Prompt Injection möglicherweise nie vollständig gelöst werden können.

Anthropic-CEO Dario Amodei hat bereits zuvor angemerkt, dass ein Jailbreak in sensiblen Bereichen wie der Biologie oder Technik zwar „über Leben und Tod“ entscheiden könnte, die Branche jedoch noch damit ringt, wie diese Risiken gemindert werden können. Indem die US-Regierung fordert, dass Modelle im Grunde unhackbar sein müssen, bevor sie international vertrieben werden, könnte sie einen Präzedenzfall schaffen, der Innovationen erstickt, da kein Frontier-Modell (einschließlich GPT-5.5 oder Kimi 2.7) über einen perfekten Schutzschild verfügt.

Gegenwind aus der Branche und die Debatte über Exportkontrollen

Als Reaktion auf die eskalierenden Spannungen haben über 100 Cybersicherheitsexperten und Führungskräfte – darunter Branchenveteranen wie Alex Stamos und Rachel Tobac – einen offenen Brief an Handelsminister Lutnick und die nationale Cyber-Direktorin Cairncross gerichtet. Sie fordern die Aufhebung der Exportkontrollen für die Modelle Fable und Mythos von Anthropic.

Die Experten argumentieren, dass Fable zwar sehr fähig ist, Softwarefehler zu identifizieren, im Vergleich zu anderen Modellen wie Opus oder Sonnet jedoch nicht in einzigartiger Weise gefährlich sei. Entscheidend ist ihre Warnung, dass strenge Exportkontrollen die westlichen Verteidiger faktisch behindern. Durch die Einschränkung des Zugangs zu erstklassigen US-Modellen könnte die Regierung unbeabsichtigt chinesischen Open-Weight-Modellen einen Vorteil verschaffen, die Berichten zufolge nur wenige Monate hinter den führenden amerikanischen Frontier-Modellen zurückliegen.

Wichtigste Erkenntnisse