거버넌스에서의 AI: 루나 의원, 국방 법안 초안 작성에 Claude 사용 부인
생성형 AI와 입법 초안 작성의 접점이 플로리다주 안나 폴리나 루나(Anna Paulina Luna) 하원의원과 관련된 논란 이후 집중적인 조사를 받고 있습니다. Anthropic의 Claude가 국방 예산 세부 사항 초안 작성에 관여했다는 스크린샷이 공개된 후, 루나 의원은 의원실 업무 흐름에서 AI의 역할을 명확히 했습니다.
Claude 논란과 NDAA 수정안
2027년 국방수권법(NDAA)과 관련된 수정안 요약본의 스크린샷이 사용자들에 의해 X(구 트위터)에 공유되면서 논란이 촉발되었습니다. 유출된 텍스트에는 "Claude의 응답: 국방부 장관이 국방부 활동을 지정하도록 요구함..."이라는 특이한 서식 흔적이 포함되어 있었습니다. 이 특정 문구는 설명 요약본을 생성하기 위해 Anthropic의 Claude LLM을 통해 프롬프트가 처리되었음을 강력하게 시사했습니다.
루나 의원의 초기 반응은 직원이 추가 편집 없이 초안 텍스트를 수정하기 위해 AI를 사용했다는 것이었습니다. 그러나 AI가 실제 법률을 작성하는 데 사용되고 있는지에 대한 대중의 추측이 커지자, 해당 의원은 정정 성명을 발표했습니다. 그녀는 AI가 수정안의 법률 본문이 아닌, 수정안 요약본의 "철자/문법 검사" 용도로만 사용되었다고 명확히 했습니다.
요약본과 법안의 구분
이번 논쟁의 핵심적인 차이점은 빠른 읽기를 위한 설명 도구인 "수정안 요약본"과 법적 효력을 갖는 "실제 수정안 본문" 사이의 구분입니다. 루나 의원은 의원실에서 AI로 실제 법안을 작성하지 않는다는 점을 강조하며, 중요한 제도적 안전장치를 언급했습니다.
루나 의원에 따르면, 하원에서 발행되는 모든 공식 법안 본문은 AI 도구 사용이 엄격히 금지된 기관인 하원 입법 위원회(House Legislative Council)에서 작성됩니다. 이러한 구분은 법률 언어의 무결성을 유지하는 데 필수적입니다. LLM의 단 한 번의 환각(hallucination)이나 언어적 뉘앙스 오류가 국가 방위 정책에 중대한 의도치 않은 결과를 초래할 수 있기 때문입니다.
공공 정책 분야에서 증가하는 AI 활용 트렌드
이번 사건은 전문적인 환경에서 발생하는 "AI 유출"의 단발적인 사례가 아닙니다. 광범위한 AI 환경에서는 다양한 거버넌스 부문에서 승인되지 않았거나 검증되지 않은 AI 사용이 급증하고 있습니다.
- 법적 부정행위: 판사들은 변호사들이 허위 인용구가 포함된 법적 서류를 작성하기 위해 챗봇을 사용하는 사례를 반복적으로 적발해 왔습니다.
- 지방 자치 단체의 오류: 최근 브라질의 시 공무원들은 자신들도 모르게 ChatGPT가 작성한 조례를 승인했습니다.
- 주 단위 사용: 애리조나주 하원의원 알렉산더 콜로딘(Alexander Kolodin)은 주 단위 입법을 보조하기 위해 ChatGPT를 사용했음을 공개적으로 인정했습니다.
Claude 및 ChatGPT와 같은 LLM이 직장에서 보편화됨에 따라, 직원이 공식 업무를 위해 승인되지 않은 도구를 사용하는 "섀도우 AI(shadow AI)"의 위험은 공공 기관의 정확성과 책임성에 중대한 도전 과제가 되고 있습니다.
핵심 요약
- 사용 용도 명확화: 안나 폴리나 루나 의원은 국방 법안 초안 작성에 AI를 사용했다는 의혹을 부인하며, Anthropic의 Claude는 수정안의 철자 검사와 요약에만 사용되었다고 주장했습니다.
- 제도적 안전장치: 공식 하원 법안 본문은 법적 정확성을 보장하기 위해 AI 사용이 금지된 하원 입법 위원회에서 작성됩니다.
- 시스템적 위험: 이번 사건은 법적 서류부터 지방 조례에 이르기까지, 법률 및 거버넌스 분야에서 검증되지 않은 AI 통합이 증가하는 추세를 보여줍니다.