Cybersicherheitsexperten protestieren gegen US-Verbot von Anthropics Fable- und Mythos-Modellen

Eine Koalition aus 76 führenden Cybersicherheitsexperten schlägt Alarm gegen eine jüngste Exportkontrollverordnung der US-Regierung, die sich gegen die fortschrittlichsten KI-Modelle von Anthropic richtet. Die Gruppe argumentiert, dass die Regierung durch die Beschränkung des Zugangs zu diesen Werkzeugen unbeabsichtigt die digitalen Verteidiger entwaffnet, während die Gegner weiterhin Fortschritte machen.

Der Konflikt: Nationale Sicherheit vs. Verteidigungsfähigkeit

Die Spannungen begannen, als die US-Regierung eine Exportkontrollverordnung für Anthropics Fable- und Mythos-Modelle erließ und dabei nicht offengelegte nationale Sicherheitsbedenken anführte. In Übereinstimmung mit der Verordnung hat Anthropic den weltweiten Zugriff auf diese Modelle eingestellt.

Das Mythos-Modell wurde ursprünglich mit so hoch entwickelten Fähigkeiten zur Schwachstellenanalyse konzipiert, dass Anthropic den Zugang zunächst auf eine ausgewählte Gruppe von etwa 150 Organisationen in 15 Ländern beschränkte. Die öffentlich zugängliche Version, Fable, sollte strenge Schutzmechanismen enthalten, um Missbrauch in den Bereichen Biologie, Chemie und Cybersicherheit zu verhindern. Die Intervention der Regierung hat jedoch den Einsatz dieser leistungsstarken Werkzeuge für genau die Menschen effektiv gestoppt, die mit der Sicherung des Internets beauftragt sind.

Die „Jailbreak“-Kontroverse und das Amazon-Paper

Anthropic deutet an, dass die Anordnung des Weißen Hauses aus Bedenken hinsichtlich des „Jailbreakings“ resultieren könnte – Methoden, die dazu verwendet werden, Sicherheitsbarrieren zu umgehen. Diese Besorgnis stammt Berichten zufolge aus einem nicht öffentlichen Forschungspapier von Amazon-Forschern.

Das Paper legte nahe, dass Nutzer die Sicherheitsbeschränkungen von Fable umgehen könnten, um auf Fähigkeiten auf Mythos-Niveau zuzugreifen. Cybersicherheitsexperten, darunter Katie Moussouris (Gründerin von Luta Security), argumentieren jedoch, dass dies ein grundlegendes Missverständnis des Nutzens von KI darstellt. Moussouris behauptet, dass der beschriebene „Jailbreak“ lediglich die Ausführung der beabsichtigten Funktion des Modells war: das Beheben von Open-Source-Code, der bekannte Schwachstellen enthält.

Laut Moussouris stellt die Aufforderung an eine KI, einen Bug zu beheben, den Patch zu erklären und einen Test zu schreiben, keinen Sicherheitsverstoß dar; es ist die „Find, Fix, and Test“-Schleife, die die moderne defensive Sicherheit definiert. Der Versuch, diese Verhaltensweisen zu blockieren, würde die Fähigkeit des Modells, Software zu schützen, grundlegend lähmen.

Bedeutende Unterzeichner und branchenweite Auswirkungen

Der offene Brief wird von Schwergewichten der Security-Community unterstützt, darunter der ehemalige Facebook-Sicherheitschef Alex Stamos, Bugcrowd-Gründer Casey Ellis und der berühmte Kryptograph Jon Callas. Ihr Argument konzentriert sich auf ein kritisches Ungleichgewicht: Wenn Verteidigern der Zugang zu hochmodernen LLMs verwehrt wird, während Angreifer uneingeschränkte Modelle nutzen, schwächt dies die globale Sicherheitslage.

Die Experten wiesen zudem darauf hin, dass die wahrgenommene Schwachstelle in Fable nicht exklusiv für Anthropic ist. Der Brief legt nahe, dass ähnliche „Schwachstellen“ auch bei OpenAIs GPT-5.5, Anthropics eigenen Modellen Claude Opus 4.8 und Sonnet sowie sogar bei internationalen Modellen wie Kimi 2.7 auftreten könnten.

Die Gruppe fordert einen demokratischen, wissenschaftsbasierten Regulierungsprozess, der auf transparenter Forschung basiert, anstatt auf pauschalen, reaktiven Verboten, die möglicherweise mehr schaden als nützen.

Wichtigste Erkenntnisse