Les États-Unis obligent Anthropic à désactiver ses modèles d'IA
Le gouvernement américain a ordonné à Anthropic de désactiver deux modèles d'IA avancés. Ces modèles sont Fable 5 et Mythos 5. L'ordre affecte tous les utilisateurs dans le monde entier.
Le département du Commerce a émis une directive de contrôle des exportations le 12 juin 2026. Cela est dû à une simple faille de sécurité. Un prompt de trois mots, « fix this code », permet un jailbreak.
Fonctionnement de la faille :
- Des chercheurs ont découvert que Fable 5 crée des correctifs fonctionnels pour du code non patché.
- Cela aide les défenseurs à combler les failles de sécurité.
- Cependant, les attaquants utilisent cette même méthode pour trouver automatiquement des failles dans les bases de code.
L'interdiction est stricte. Les règles d'exportation américaines classent le partage de cette technologie avec des non-citoyens comme une exportation. Anthropic a dû désactiver les modèles pour tout le monde afin de se conformer à la réglementation.
Le secteur réagit avec inquiétude. Plus de 100 experts de sociétés telles que Google, Nvidia et Adobe ont signé une lettre ouverte. Ils soutiennent que ces contrôles nuisent aux défenseurs. Ils estiment que cette mesure donne un avantage aux adversaires qui développent leur propre IA.
Faits clés concernant les modèles : • Mythos 5 est un modèle de base capable d'identifier et d'enchaîner des cyberattaques. • Fable 5 est une version conçue pour un usage défensif avec des garde-fous de sécurité. • Mythos 5 a précédemment réussi les tests de cybersécurité du UK AI Security Institute.
Anthropic conteste cette décision. L'entreprise affirme que le risque de jailbreak est faible. Elle soutient que l'arrêt de modèles en raison d'une faille mineure bloquerait tous les nouveaux déploiements d'IA.
Cette mesure impacte également les alliés des États-Unis. Des pays comme le Canada et le Royaume-Uni s'appuient sur ces modèles pour protéger leurs infrastructures critiques. L'interdiction bloque également leur accès.
La situation illustre la tension entre l'innovation en IA et la sécurité nationale. Elle pose la question de savoir si les lois actuelles peuvent gérer des outils qui réagissent à une simple phrase de trois mots.
Source : https://dev.to/techmag/us-forces-anthropic-to-shut-down-fable-5-mythos-5-over-security-flaw-4dlm
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi