De VS dwingt Anthropic AI-modellen uit te schakelen
De Amerikaanse overheid heeft Anthropic bevolen om twee geavanceerde AI-modellen uit te schakelen. Deze modellen zijn Fable 5 en Mythos 5. Het bevel heeft gevolgen voor alle gebruikers wereldwijd.
Het Amerikaanse Ministerie van Handel heeft op 12 juni 2026 een exportcontrole-richtlijn uitgevaardigd. Dit gebeurde vanwege een eenvoudig beveiligingslek. Een prompt van drie woorden, "fix this code", maakt een jailbreak mogelijk.
Hoe het lek werkt:
- Onderzoekers ontdekten dat Fable 5 werkende patches maakt voor ongepatchte code.
- Dit helpt verdedigers om beveiligingslekken te dichten.
- Aanvallers gebruiken echter dezelfde methode om automatisch kwetsbaarheden in codebases te vinden.
Het verbod is strikt. Volgens de Amerikaanse exportregels wordt het delen van deze technologie met niet-burgers beschouwd als een export. Anthropic moest de modellen voor iedereen uitschakelen om aan de regels te voldoen.
De sector reageert met bezorgdheid. Meer dan 100 experts van bedrijven zoals Google, Nvidia en Adobe hebben een open brief ondertekend. Zij stellen dat deze controles de verdedigers schaden. Ze geloven dat deze maatregel een voordeel geeft aan tegenstanders die hun eigen AI ontwikkelen.
Belangrijke feiten over de modellen: • Mythos 5 is een basismodel dat cyberaanvallen kan identificeren en koppelen. • Fable 5 is een versie die is ontworpen voor defensief gebruik met veiligheidsmaatregelen. • Mythos 5 heeft eerder cybersecuritytests van het UK AI Security Institute doorstaan.
Anthropic is het niet eens met de beslissing. Ze verklaren dat het risico op een jailbreak klein is. Ze voeren aan dat het stopzetten van modellen vanwege een klein lek alle nieuwe AI-implementaties zou verhinderen.
Deze maatregel heeft ook gevolgen voor de bondgenoten van de VS. Landen als Canada en het VK vertrouwen op deze modellen om kritieke infrastructuur te beschermen. Het verbod blokkeert ook hun toegang.
De situatie toont de spanning tussen AI-innovatie en nationale veiligheid. Het roept de vraag op of de huidige wetgeving om kan gaan met tools die reageren op een simpele zin van drie woorden.
Bron: https://dev.to/techmag/us-forces-anthropic-to-shut-down-fable-5-mythos-5-over-security-flaw-4dlm
Optionele leercommunity: https://t.me/GyaanSetuAi