Les modèles d'Anthropic mis hors service face aux inquiétudes concernant la sécurité des États-Unis et les liens avec la Chine
Anthropic traverse une crise majeure suite à l'arrêt forcé de ses modèles d'IA Claude Mythos et Fable 5. Une combinaison de tensions géopolitiques impliquant SK Telecom et de vulnérabilités de sécurité critiques a provoqué une intervention directe de la Maison Blanche.
Frictions géopolitiques et lien avec SK Telecom
La chute des modèles Claude Mythos a débuté par une préoccupation de sécurité de haut niveau impliquant le géant sud-coréen des télécommunications SK Telecom. Via le programme de partenariat d'Anthropic, connu sous le nom de Project Glasswing, SK Telecom avait obtenu l'accès aux modèles Mythos. Cependant, les responsables américains ont tiré la sonnette d'alarme concernant les liens présumés de SK Telecom avec la Chine, considérant ce partenariat comme un risque potentiel pour la sécurité nationale.
Bien que SK Telecom ait nié tout lien avec la Chine, l'historique de l'entreprise au sein du groupe SK a attiré l'attention. Le groupe SK maintient des intérêts commerciaux importants en Chine et détenait auparavant une participation dans l'opérateur chinois d'État, China Unicom, jusqu'en 2009. En réponse à ces inquiétudes, la Maison Blanche aurait ordonné à Anthropic de couper immédiatement l'accès de SK Telecom, une directive que le laboratoire d'IA a appliquée instantanément.
Failles de sécurité dans Fable 5 et perte de confiance
La situation est passée d'un enjeu géopolitique à une catastrophe technique lorsque des vulnérabilités de sécurité ont été identifiées dans le modèle Fable 5. Des acteurs majeurs du secteur, dont Amazon, ont signalé des failles critiques qui pourraient permettre aux utilisateurs de contourner les restrictions de sécurité établies. Ces vulnérabilités suggéraient que les garde-fous du modèle étaient insuffisants pour empêcher une utilisation abusive ou une manipulation malveillante.
La convergence de ces deux incidents — le risque perçu d'exposition aux services de renseignement étrangers via SK Telecom et la défaillance technique des protocoles de sécurité de Fable 5 — a entraîné une perte totale de confiance de la part des responsables américains. Par conséquent, la Maison Blanche a fait pression sur Anthropic pour qu'elle déconnecte complètement les deux modèles afin d'atténuer les risques potentiels pour la sécurité nationale et la sécurité numérique.
Implications pour la frontière de l'IA
Cet incident fait figure d'avertissement sévère pour l'industrie de l'IA en pleine mutation, soulignant que l'excellence technique n'est plus le seul critère de réussite. Pour les développeurs et les fondateurs d'IA, la crise d'Anthropic démontre que les considérations géopolitiques et la « sécurité dès la conception » (safety-by-design) sont désormais au cœur du paysage réglementaire.
À mesure que les modèles de pointe deviennent plus puissants, l'intersection entre les relations internationales et la gouvernance de l'IA est susceptible de s'intensifier. Les entreprises doivent désormais naviguer dans un réseau complexe de surveillance gouvernementale, où un seul partenariat ou le contournement d'un seul garde-fou de sécurité peut entraîner le retrait immédiat d'une technologie phare.
Points clés
- Risque géopolitique : Des liens présumés entre SK Telecom et des intérêts chinois ont entraîné l'intervention de la Maison Blanche, forçant Anthropic à mettre fin à l'accès via Project Glasswing.
- Vulnérabilités techniques : Des failles de sécurité critiques dans le modèle Fable 5, signalées par Amazon, ont permis de contourner des restrictions de sécurité essentielles.
- Pression réglementaire : La combinaison de préoccupations de sécurité nationale et de défaillances de sécurité a entraîné l'arrêt total des modèles Claude Mythos et Fable 5.