L'IA dans la gouvernance : la représentante Luna nie avoir utilisé Claude pour le texte d'un projet de loi sur la défense
L'intersection de l'IA générative et de la rédaction législative fait l'objet d'un examen minutieux suite à une controverse impliquant la représentante de Floride Anna Paulina Luna. Après l'apparition de captures d'écran suggérant que Claude d'Anthropic aurait été impliqué dans la rédaction de détails sur le financement de la défense, Luna a clarifié le rôle de l'IA dans le flux de travail de son bureau.
La controverse Claude et l'amendement à la NDAA
La controverse a éclaté sur X (anciennement Twitter) lorsque des utilisateurs ont partagé des captures d'écran d'un résumé d'amendement relatif à la loi sur l'autorisation de la défense nationale (NDAA) de 2027. Le texte divulgué contenait un artefact de formatage particulier : « Claude a répondu : Exige que le secrétaire à la Défense désigne les activités du département de la Défense... ». Cette formulation spécifique suggérait fortement qu'un prompt avait été traité via le LLM Claude d'Anthropic pour générer le résumé descriptif.
Les premières réactions de la représentante Luna suggéraient que le personnel avait utilisé l'IA pour corriger un projet de texte sans édition supplémentaire. Cependant, alors que les spéculations publiques grandissaient quant à savoir si l'IA était utilisée pour rédiger de véritables lois, la congressiste a publié une déclaration rectificative. Elle a précisé que l'IA n'avait été utilisée que pour une « vérification orthographique et grammaticale » du résumé de l'amendement, et non pour le texte juridique de l'amendement lui-même.
Distinguer le résumé de la législation
Une distinction cruciale dans ce débat est la différence entre un « résumé d'amendement » — un outil explicatif utilisé pour une lecture rapide — et le « texte réel de l'amendement », qui possède une valeur juridique. Luna a souligné qu'aucune législation réelle n'est rédigée avec l'IA dans son bureau, notant l'existence d'un garde-fou institutionnel vital.
Selon Luna, tout texte officiel de projet de loi de la Chambre provient du House Legislative Council, une entité qui a l'interdiction stricte d'utiliser des outils d'IA. Cette distinction est essentielle pour maintenir l'intégrité du langage juridique, où une seule hallucination ou une erreur de nuance linguistique provenant d'un LLM pourrait entraîner des conséquences imprévues importantes dans la politique de défense nationale.
La tendance croissante de l'IA dans les politiques publiques
Cet incident n'est pas un cas isolé de « fuite d'IA » dans les environnements professionnels. Le paysage plus large de l'IA connaît une augmentation de l'utilisation non autorisée ou non vérifiée de l'IA dans divers secteurs de la gouvernance :
- Inconduite juridique : Des juges ont surpris à plusieurs reprises des avocats utilisant des chatbots pour rédiger des documents juridiques incluant des citations fabriquées.
- Erreurs municipales : Des responsables municipaux au Brésil ont récemment approuvé une ordonnance qui avait été écrite, sans qu'ils le sachent, par ChatGPT.
- Utilisation au niveau de l'État : Le représentant de l'État de l'Arizona, Alexander Kolodin, a ouvertement admis utiliser ChatGPT pour l'aider à rédiger des législations au niveau de l'État.
À mesure que les LLM comme Claude et ChatGPT deviennent omniprésents sur le lieu de travail, le risque de « shadow AI » — où les employés utilisent des outils non approuvés pour des tâches officielles — pose un défi important pour l'exactitude et la responsabilité des institutions publiques.
Points clés à retenir
- Usage clarifié : La représentante Anna Paulina Luna a nié avoir utilisé l'IA pour rédiger la législation sur la défense, affirmant que Claude d'Anthropic n'a été utilisé que pour la correction orthographique et le résumé d'un amendement.
- Garde-fous institutionnels : Le texte officiel des projets de loi de la Chambre est rédigé par le House Legislative Council, qui a l'interdiction d'utiliser l'IA afin de garantir la précision juridique.
- Risque systémique : L'incident met en lumière une tendance croissante à l'intégration non vérifiée de l'IA dans le droit et la gouvernance, allant des documents juridiques aux ordonnances municipales.