Gouvernement américain vs Anthropic : l'exigence impossible de LLM inviolables

Un fossé grandissant se creuse entre le gouvernement américain et Anthropic suite à la sortie du modèle Fable 5, déclenchant un débat sur la sécurité de l'IA et la surveillance réglementaire. Alors que les responsables accusent le laboratoire d'IA de contourner les décrets présidentiels, une tension technique plus profonde émerge : l'exigence du gouvernement pour des modèles de pointe « inviolables ».

Le conflit autour de Fable 5 et des directives cyber

La tension provient de la décision d'Anthropic de publier son dernier modèle, Fable 5, avant qu'un organisme de contrôle gouvernemental désigné — mandaté par un récent décret présidentiel sur la cybersécurité de l'administration Trump — ne soit pleinement opérationnel. Bien que le décret appelait à une surveillance volontaire, les responsables gouvernementaux affirment qu'Anthropic a ignoré l'esprit de la directive, entraînant des accusations selon lesquelles l'entreprise est un « acteur peu scrupuleux ».

Les discussions actuelles impliquant le Département du Commerce, la CIA et le conseiller scientifique Michael Kratsios mettent en lumière un fossé de communication massif. Les responsables ont exprimé leur inquiétude quant au fait qu'Anthropic ait procédé malgré la connaissance d'un risque de « jailbreak » — une information qui aurait été fournie par Amazon et d'autres partenaires de l'industrie technologique. Cependant, la friction semble autant porter sur le calendrier réglementaire que sur la sécurité technique.

La réalité technique : les LLM pourront-ils jamais être inviolables ?

Le cœur de la critique du gouvernement — selon laquelle Anthropic aurait « fait fausse route » en ignorant les risques potentiels de jailbreak — ignore une réalité fondamentale de l'architecture des grands modèles de langage (LLM). Dans l'industrie de l'IA, le consensus est que la sécurité absolue est actuellement une impossibilité. Même OpenAI a reconnu que des vulnérabilités telles que l'injection de requêtes (prompt injection) pourraient ne jamais être totalement résolues.

Le PDG d'Anthropic, Dario Amodei, a précédemment noté que si un jailbreak dans des domaines sensibles comme la biologie ou la technologie pourrait être une question de « vie ou de mort », l'industrie cherche encore comment atténuer ces risques. En exigeant que les modèles soient essentiellement inviolables avant leur exportation internationale, le gouvernement américain pourrait créer un précédent qui étouffe l'innovation, car aucun modèle de pointe (y compris GPT-5.5 ou Kimi 2.7) ne possède de bouclier de sécurité parfait.

Réaction de l'industrie et débat sur le contrôle des exportations

En réponse à l'escalade des tensions, plus de 100 experts et dirigeants en cybersécurité — dont des vétérans du secteur tels qu'Alex Stamos et Rachel Tobac — ont publié une lettre ouverte au secrétaire au Commerce Lutnick et au directeur national de la cybersécurité Cairncross. Ils demandent la levée des contrôles à l'exportation sur les modèles Fable et Mythos d'Anthropic.

Les experts soutiennent que, bien que Fable soit extrêmement capable d'identifier des failles logicielles, il n'est pas plus dangereux que d'autres modèles comme Opus ou Sonnet. Surtout, ils avertissent que des contrôles à l'exportation stricts handicapent en réalité les défenseurs occidentaux. En restreignant l'accès aux modèles américains de premier plan, le gouvernement pourrait par inadvertance donner un avantage aux modèles chinois à poids ouverts, qui ne seraient, selon les rapports, qu'à quelques mois de retard sur les principaux modèles de pointe américains.

Points clés