La IA en la gobernanza: la representante Luna niega el uso de Claude para el texto de un proyecto de ley de defensa

La intersección entre la IA generativa y la redacción legislativa ha sido objeto de un intenso escrutinio tras una controversia que involucra a la representante de Florida, Anna Paulina Luna. Después de que surgieran capturas de pantalla que sugerían que Claude de Anthropic estuvo involucrado en la redacción de detalles sobre la financiación de la defensa, Luna aclaró el papel de la IA en el flujo de trabajo de su oficina.

La controversia de Claude y la enmienda a la NDAA

La controversia estalló en X (anteriormente Twitter) cuando los usuarios compartieron capturas de pantalla de un resumen de una enmienda relacionada con la Ley de Autorización de Defensa Nacional (NDAA) de 2027. El texto filtrado contenía un peculiar artefacto de formato: "Claude respondió: Requiere que el Secretario de Defensa designe las actividades del Departamento de Defensa...". Esta frase específica sugería fuertemente que se había procesado un prompt a través del LLM Claude de Anthropic para generar el resumen descriptivo.

Las reacciones iniciales de la representante Luna sugirieron que el personal había utilizado la IA para corregir borradores de texto sin una edición posterior. Sin embargo, a medida que crecía la especulación pública sobre si se estaba utilizando la IA para redactar leyes reales, la congresista emitió una declaración correctiva. Aclaró que la IA se utilizó únicamente para la "corrección ortográfica y gramatical" del resumen de la enmienda, y no para el texto legal de la enmienda en sí.

Distinción entre resumen y legislación

Una distinción crítica en este debate es la diferencia entre un "resumen de la enmienda" —una herramienta explicativa utilizada para una lectura rápida— y el "texto real de la enmienda", que tiene peso legal. Luna enfatizó que en su oficina no se redacta ninguna legislación real con IA, señalando una salvaguarda institucional vital.

Según Luna, todo el texto oficial de los proyectos de ley de la Cámara de Representantes proviene del Consejo Legislativo de la Cámara, una entidad que tiene estrictamente prohibido el uso de herramientas de IA. Esta distinción es vital para mantener la integridad del lenguaje legal, donde una sola alucinación o un error de matiz lingüístico de un LLM podría tener consecuencias imprevistas significativas en la política de defensa nacional.

La creciente tendencia de la IA en las políticas públicas

Este incidente no es un caso aislado de "filtración de IA" en entornos profesionales. El panorama más amplio de la IA está experimentando un aumento en el uso de IA no autorizado o no supervisado en diversos sectores de la gobernanza:

  • Conducta legal indebida: Los jueces han sorprendido repetidamente a abogados utilizando chatbots para redactar escritos legales que incluyen citas fabricadas.
  • Errores municipales: Funcionarios municipales en Brasil aprobaron recientemente una ordenanza que fue escrita, sin saberlo, por ChatGPT.
  • Uso a nivel estatal: El representante estatal de Arizona, Alexander Kolodin, ha admitido abiertamente el uso de ChatGPT para ayudar en la redacción de legislación a nivel estatal.

A medida que los LLM como Claude y ChatGPT se vuelven ubicuos en el lugar de trabajo, el riesgo de la "IA en la sombra" (shadow AI) —donde los empleados utilizan herramientas no aprobadas para tareas oficiales— plantea un desafío significativo para la precisión y la rendición de cuentas de las instituciones públicas.

Conclusiones clave

  • Uso aclarado: La representante Anna Paulina Luna negó el uso de IA para redactar legislación de defensa, afirmando que Claude de Anthropic solo se utilizó para la corrección ortográfica y el resumen de una enmienda.
  • Salvaguardas institucionales: El texto oficial de los proyectos de ley de la Cámara es redactado por el Consejo Legislativo de la Cámara, al cual se le prohíbe el uso de IA para garantizar la precisión legal.
  • Riesgo sistémico: El incidente resalta una tendencia creciente de integración de IA no supervisada en el derecho y la gobernanza, que abarca desde escritos legales hasta ordenanzas municipales.