L'IA nella governance: la deputata Luna nega l'uso di Claude per il testo del disegno di legge sulla difesa
L'intersezione tra l'IA generativa e la redazione legislativa è finita sotto stretta osservazione a seguito di una controversia che ha coinvolto la deputata della Florida Anna Paulina Luna. Dopo la diffusione di screenshot che suggerivano il coinvolgimento di Claude di Anthropic nella stesura di dettagli sul finanziamento della difesa, Luna ha chiarito il ruolo dell'IA nel flusso di lavoro del suo ufficio.
La controversia su Claude e l'emendamento NDAA
La controversia è scoppiata su X (precedentemente Twitter) quando gli utenti hanno condiviso screenshot di un riassunto di un emendamento relativo al National Defense Authorization Act (NDAA) del 2027. Il testo trapelato conteneva un peculiare artefatto di formattazione: "Claude responded: Requires the Secretary of Defense to designate Department of Defense activities..." Questa specifica formulazione suggeriva fortemente che un prompt fosse stato elaborato tramite il modello linguistico Claude di Anthropic per generare il riassunto descrittivo.
Le reazioni iniziali della deputata Luna hanno suggerito che lo staff avesse utilizzato l'IA per correggere bozze di testo senza ulteriori revisioni. Tuttavia, con l'aumentare delle speculazioni pubbliche sul fatto che l'IA venisse utilizzata per scrivere vere e proprie leggi, la congressista ha rilasciato una dichiarazione correttiva. Ha chiarito che l'IA è stata utilizzata esclusivamente per il "controllo ortografico/grammaticale" del riassunto dell'emendamento, e non per il testo legale dell'emendamento stesso.
Distinguere tra riassunto e legislazione
Una distinzione critica in questo dibattito è la differenza tra un "riassunto dell'emendamento" — uno strumento esplicativo utilizzato per una lettura rapida — e il "testo effettivo dell'emendamento", che ha valore legale. Luna ha sottolineato che nel suo ufficio non viene redatta alcuna legislazione reale con l'IA, evidenziando una fondamentale salvaguardia istituzionale.
Secondo Luna, tutti i testi ufficiali dei disegni di legge della Camera provengono dalla House Legislative Council, un ente a cui è severamente vietato l'uso di strumenti di IA. Questa distinzione è vitale per mantenere l'integrità del linguaggio giuridico, dove una singola allucinazione o un errore di sfumatura linguistica da parte di un LLM potrebbe portare a significative conseguenze impreviste nella politica di difesa nazionale.
La crescente tendenza dell'IA nelle politiche pubbliche
Questo incidente non è un caso isolato di "fuga di IA" (AI leakage) in ambienti professionali. Il panorama più ampio dell'IA sta assistendo a un aumento dell'uso non autorizzato o non verificato dell'IA in vari settori della governance:
- Condotta illecita in ambito legale: I giudici hanno ripetutamente colto avvocati nell'uso di chatbot per redigere atti legali che includevano citazioni fabbricate.
- Errori municipali: Funzionari comunali in Brasile hanno recentemente approvato un'ordinanza che era stata scritta, a loro insaputa, da ChatGPT.
- Utilizzo a livello statale: Il rappresentante dello stato dell'Arizona Alexander Kolodin ha ammesso apertamente di aver utilizzato ChatGPT per assistere nella scrittura di legislazione a livello statale.
Man mano che gli LLM come Claude e ChatGPT diventano onnipresenti sul posto di lavoro, il rischio di "shadow AI" — ovvero l'uso da parte dei dipendenti di strumenti non approvati per compiti ufficiali — pone una sfida significativa all'accuratezza e alla responsabilità delle istituzioni pubbliche.
Punti chiave
- Uso chiarito: La deputata Anna Paulina Luna ha negato l'uso dell'IA per redigere la legislazione sulla difesa, affermando che Claude di Anthropic è stato utilizzato solo per il controllo ortografico e il riassunto di un emendamento.
- Salvaguardie istituzionali: Il testo ufficiale dei disegni di legge della Camera è redatto dalla House Legislative Council, a cui è vietato l'uso dell'IA per garantire la precisione legale.
- Rischio sistemico: L'incidente evidenzia una tendenza crescente di integrazione non verificata dell'IA nel diritto e nella governance, che spazia dagli atti legali alle ordinanze municipali.