Amazon의 연구가 어떻게 Anthropic에 대한 백악관의 규제를 촉발했는가
최근 Amazon 연구진이 달성한 사이버 보안 분야의 획기적인 성과는 AI 업계에 큰 충격을 주었으며, Anthropic에 대한 중대한 수출 통제 지침으로 이어졌습니다. Anthropic의 최첨단 모델에 대한 접근을 제한하기로 한 이번 결정은 국가 안보, 모델의 취약성, 그리고 인공지능의 정치적 지형에 관한 격렬한 논쟁을 불러일으켰습니다.
금지 조치를 촉발한 Amazon의 연구
이번 논란의 중심에는 Amazon 보안 연구팀이 작성한 기술 논문이 있습니다. Wall Street Journal의 보도에 따르면, Amazon 연구진은 특정 일련의 프롬프트를 통해 Anthropic의 Fable 5 및 Mythos 5 모델이 사이버 공격을 용이하게 할 수 있는 정보를 제공하도록 조작될 수 있음을 입증했습니다.
이 발견은 Amazon의 CEO인 Andy Jassy에 의해 백악관에 직접 전달된 것으로 알려졌습니다. 이러한 논의 끝에 정부는 외국인이 해당 특정 모델에 접근하는 것을 사실상 차단하는 수출 통제 지침을 발표했습니다. 이 조치는 Anthropic에 즉각적인 내부 위기를 초래했는데, 회사의 연구원 중 상당수가 외국 태생이며, 자신들이 구축하는 데 기여한 바로 그 기술을 사용하는 것이 이제 금지되었기 때문입니다.
"탈옥(Jailbreak)" 논쟁과 모델 취약성
Anthropic은 이번 사건에 대한 정부의 기술적 분류에 이의를 제기하기 위해 신속하게 움직였습니다. 정부는 이번 취약점 악용을 "탈옥(jailbreak)"으로 규정하고 있지만, Anthropic은 식별된 취약점이 자사의 아키텍처에만 국한된 것이 아니라고 주장합니다. 회사는 GPT 5.5와 같이 널리 알려진 다른 공개 모델을 통해서도 이러한 보안 허점의 상당수가 발견될 수 있다고 주장합니다.
이러한 기술적 논쟁은 독립적인 보안 전문가들에 의해 뒷받침되고 있습니다. LutaSecurity의 설립자이자 CEO인 Katie Moussouris는 Amazon 논문의 결과가 전통적인 의미의 "탈옥"에 해당하지 않는다고 공개적으로 밝혔습니다. 이러한 구분은 업계에 매우 중요한데, 이는 정부가 특정 모델의 결함을 겨냥하고 있는 것인지, 아니면 더 광범위하고 어쩌면 반작용적인 규제 조치를 시행하고 있는 것인지에 대한 의문을 제기하기 때문입니다.
정치적 긴장과 AI 지형
이번 금지 조치는 단순히 독립적으로 발생한 것이 아닙니다. 이는 Anthropic과 현 정부 사이의 깊어지는 갈등 속에서 이루어졌습니다. Anthropic은 자사의 AI 모델이 미국 시민에 대한 대규모 감시나 치명적인 자율 무기 개발에 활용되는 것을 거부하며 확고한 윤리적 입장을 유지해 왔습니다.
이러한 윤리적 가드레일은 트럼프 행정부와의 마찰을 초래한 것으로 알려졌으며, 트럼프 행정부는 이전에 연방 기관들에 Anthropic의 AI 서비스 사용을 중단하도록 지시한 바 있습니다. 전 상무부 관리인 케이트 코렌(Kate Koren)을 포함한 일부 업계 관측통들은 백악관의 기존 Anthropic에 대한 입장이 최근 수출 제한 조치의 속도와 강도에 영향을 미쳤을 수 있다고 시사합니다. AI 모델의 능력이 향상됨에 따라 사이버 보안 연구, 기업 윤리, 그리고 지정학적 통제가 교차하는 지점이 기술 규제의 새로운 최전선이 되고 있습니다.
핵심 요약
- 보안 트리거: Amazon의 연구에 따르면 Fable 5와 Mythos 5가 사이버 공격을 지원하도록 유도될 수 있음이 입증되었으며, 이는 연방 수출 제한으로 이어졌습니다.
- 부수적 피해: 외국인의 Anthropic 모델 접속을 금지함에 따라, 의도치 않게 해당 기업의 외국 태생 연구원들 중 상당수가 자사 도구에 접근하지 못하게 되었습니다.
- 기술적 이견: Anthropic과 보안 전문가들은 해당 취약점이 고유한 '탈옥(jailbreak)' 문제가 아니라 GPT 5.5와 같은 다른 모델에서도 나타나는 시스템적 문제라고 주장합니다.