AI in het bestuur: Rep. Luna ontkent het gebruik van Claude voor tekst van defensiewet
De kruising tussen generatieve AI en wetgevende redactie is onder scherp toezicht komen te staan na een controverse rondom de vertegenwoordiger van Florida, Anna Paulina Luna. Nadat screenshots naar buiten kwamen die suggereerden dat Anthropic's Claude betrokken was bij het opstellen van details over defensiefinanciering, verduidelijkte Luna de rol van AI in de workflow van haar kantoor.
De Claude-controverse en het NDAA-amendement
De controverse brak uit op X (voorheen Twitter) toen gebruikers screenshots deelden van een samenvatting van een amendement met betrekking tot de National Defense Authorization Act (NDAA) van 2027. De gelekte tekst bevatte een vreemd opmaakkenmerk: "Claude responded: Requires the Secretary of Defense to designate Department of Defense activities..." Deze specifieke bewoording suggereerde sterk dat een prompt was verwerkt via het Claude LLM van Anthropic om de beschrijvende samenvatting te genereren.
De eerste reacties van Rep. Luna suggereerden dat medewerkers AI hadden gebruikt om conceptteksten te corrigeren zonder verdere bewerking. Naarmate de publieke speculatie toenam over de vraag of AI werd gebruikt om daadwerkelijke wetgeving te schrijven, bracht de congressenvrouw echter een rectificatie uit. Ze verduidelijkte dat de AI uitsluitend werd gebruikt voor een "spellings- en grammaticacontrole" van de samenvatting van het amendement, en niet voor de juridische tekst van het amendement zelf.
Het onderscheid tussen samenvatting en wetgeving
Een cruciaal onderscheid in dit debat is het verschil tussen een "amendementssamenvatting" — een verklarend hulpmiddel voor snelle lezing — en de "werkelijke amendementstekst", die juridische kracht heeft. Luna benadrukte dat er in haar kantoor geen daadwerkelijke wetgeving met AI wordt opgesteld, en wees op een essentieel institutioneel waarborgmechanisme.
Volgens Luna is alle officiële wetsontwerptekst van het Huis afkomstig van de House Legislative Council, een instantie die het gebruik van AI-tools strikt verboden is. Dit onderscheid is van vitaal belang voor het behoud van de integriteit van juridische taal, waarbij een enkele hallucinatie of een fout in een taalkundige nuance door een LLM zou kunnen leiden tot aanzienlijke onbedoelde gevolgen voor het nationale defensiebeleid.
De groeiende trend van AI in het openbaar beleid
Dit incident is geen geïsoleerd geval van "AI-lekken" in professionele omgevingen. Het bredere AI-landschap ziet een toename van ongeautoriseerd of niet-gecontroleerd AI-gebruik in verschillende bestuurssectoren:
- Juridisch wangedrag: Rechters hebben herhaaldelijk advocaten betrapt op het gebruik van chatbots om juridische documenten op te stellen die gefabriceerde citaten bevatten.
- Gemeentelijke fouten: Ambtenaren in Brazilië keurden onlangs een verordening goed die onwetend door ChatGPT was geschreven.
- Gebruik op staatsniveau: De vertegenwoordiger van de staat Arizona, Alexander Kolodin, heeft openlijk toegegeven ChatGPT te gebruiken om te helpen bij het schrijven van wetgeving op staatsniveau.
Nu LLM's zoals Claude en ChatGPT alomtegenwoordig worden op de werkplek, vormt het risico van "shadow AI" — waarbij werknemers niet-goedgekeurde tools gebruiken voor officiële taken — een aanzienlijke uitdaging voor de nauwkeurigheid en verantwoording van publieke instellingen.
Belangrijkste conclusies
- Verduidelijkt gebruik: Rep. Anna Paulina Luna ontkende het gebruik van AI voor het opstellen van defensiewetgeving en stelde dat Anthropic's Claude alleen werd gebruikt voor de spellingcontrole en de samenvatting van een amendement.
- Institutionele waarborgen: Officiële wetsontwerpteksten van het Huis worden opgesteld door de House Legislative Council, die het gebruik van AI verboden is om juridische precisie te garanderen.
- Systemisch risico: Het incident onderstreept een groeiende trend van niet-gecontroleerde AI-integratie in het recht en bestuur, variërend van juridische documenten tot gemeentelijke verordeningen.