Le gouvernement américain a rappelé un modèle d'IA
Le gouvernement américain vient de contraindre Anthropic à retirer deux modèles d'IA majeurs du marché. Cela s'est produit seulement trois jours après leur lancement.
Les modèles sont Fable 5 et Mythos 5. Le Département du Commerce a émis une directive de contrôle des exportations invoquant la sécurité nationale.
Le déclencheur a été une affirmation verbale. Une entreprise concurrente a affirmé avoir jailbreaké Mythos. Il n'y avait aucun rapport technique écrit ni aucune conclusion de sécurité formelle. Juste une allégation verbale.
La directive affecte tous les ressortissants étrangers. Comme Anthropic emploie des ressortissants étrangers, l'entreprise a dû désactiver ces modèles à l'échelle mondiale pour s'y conformer.
C'est la première fois qu'un gouvernement impose le rappel d'un modèle d'IA de pointe commercial. Cela offre trois leçons importantes :
- Les affirmations verbales ont désormais du poids. La parole d'un concurrent et une lettre du gouvernement ont stoppé un produit mondial.
- Les contrôles à l'exportation sont des outils peu précis. La loi ne permet pas une précision chirurgicale. Si un modèle enfreint une certaine règle, il est désactivé partout.
- Le déploiement rapide comporte des risques. Les entreprises utilisant ces modèles en production cette semaine doivent trouver des alternatives immédiatement.
Si vous utilisez Fable 5 ou Mythos 5, passez dès maintenant à Claude Sonnet ou Opus. N'attendez pas les mises à jour.
Si vous développez des produits d'IA, faites ceci :
- Prévoyez des solutions de repli dès le premier jour.
- Considérez les contrôles à l'exportation comme un véritable risque opérationnel.
- Ne créez jamais de dépendances critiques sur un modèle durant sa première semaine.
Anthropic contre-attaque. L'entreprise affirme que les actions du gouvernement stopperont tous les nouveaux déploiements de modèles si cela devient la norme.
Le gouvernement a conçu ces règles pour le matériel et les puces. Désormais, il les applique aux modèles logiciels. Cela crée un nouveau précédent sur la manière dont les régulateurs contrôlent l'IA.
Source : The New Stack, Axios, Anthropic
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi