Anthropic-modellen uitgeschakeld vanwege zorgen over Amerikaanse veiligheid en banden met China
Anthropic kampt met een aanzienlijke crisis na de gedwongen uitschakeling van de AI-modellen Claude Mythos en Fable 5. Een combinatie van geopolitieke spanningen rondom SK Telecom en kritieke beveiligingskwetsbaarheden heeft geleid tot directe interventie van het Witte Huis.
Geopolitieke wrijving en de connectie met SK Telecom
De ondergang van de Claude Mythos-modellen begon met een beveiligingsvraagstuk op hoog niveau waarbij de Zuid-Koreaanse telecomgigant SK Telecom betrokken was. Via het partnerprogramma van Anthropic, bekend als Project Glasswing, had SK Telecom toegang gekregen tot de Mythos-modellen. Amerikaanse functionarissen uiterden echter hun zorgen over de vermeende banden van SK Telecom met China en beschouwden de samenwerking als een potentieel risico voor de nationale veiligheid.
Hoewel SK Telecom ontkent banden te hebben met China, heeft de geschiedenis van het bedrijf binnen de bredere SK Group kritische aandacht getrokken. De SK Group heeft aanzienlijke zakelijke belangen in China en hield tot 2009 een belang in de staatsgeleide Chinese provider China Unicom. Als reactie op deze zorgen zou het Witte Huis Anthropic hebben geïnstrueerd om de toegang van SK Telecom onmiddellijk te verbreken, een bevel dat het AI-lab direct heeft opgevolgd.
Beveiligingsfouten in Fable 5 en verlies van vertrouwen
De situatie veranderde van een geopolitiek vraagstuk in een technische catastrofe toen er beveiligingskwetsbaarheden werden geïdentificeerd in het Fable 5-model. Grote spelers in de sector, waaronder Amazon, wezen op kritieke gebreken die gebruikers de mogelijkheid zouden kunnen geven om de ingestelde veiligheidsbeperkingen te omzeilen. Deze kwetsbaarheden suggereerden dat de veiligheidsmechanismen van het model onvoldoende waren om misbruik of kwaadwillige manipulatie te voorkomen.
De samenloop van deze twee incidenten — het waargenomen risico op blootstelling aan buitenlandse inlichtingendiensten via SK Telecom en het technische falen van de veiligheidsprotocollen van Fable 5 — leidde tot een totaal verlies van vertrouwen bij Amerikaanse functionarissen. Als gevolg hiervan zette het Witte Huis Anthropic onder druk om beide modellen volledig offline te halen om potentiële risico's voor de nationale veiligheid en digitale veiligheid te beperken.
Implicaties voor de AI-frontier
Dit incident dient als een scherpe waarschuwing voor de snel evoluerende AI-industrie en benadrukt dat technische uitmuntendheid niet langer de enige maatstaf voor succes is. Voor AI-ontwikkelaars en oprichters laat de Anthropic-crisis zien dat geopolitieke overwegingen en "safety-by-design" nu centraal staan in het regelgevende landschap.
Naarmate frontier-modellen krachtiger worden, zal de kruising tussen internationale betrekkingen en AI-governance waarschijnlijk toenemen. Bedrijven moeten nu navigeren door een complex web van overheidscontrole, waarbij één enkele samenwerking of het omzeilen van één enkele veiligheidsmaatregel kan leiden tot de onmiddellijke uitfasering van vlaggenschiptechnologie.
Belangrijkste conclusies
- Geopolitiek risico: Vermeende banden tussen SK Telecom en Chinese belangen leidden tot interventie door het Witte Huis, waardoor Anthropic werd gedwongen de toegang via Project Glasswing te beëindigen.
- Technische kwetsbaarheden: Kritieke beveiligingsfouten in het Fable 5-model, aangemerkt door Amazon, maakten het omzeilen van essentiële veiligheidsbeperkingen mogelijk.
- Regelgevende druk: De combinatie van zorgen over de nationale veiligheid en veiligheidsfalen leidde tot de volledige stopzetting van zowel de Claude Mythos- als de Fable 5-modellen.