사이버 보안 전문가들, Anthropic의 Fable 및 Mythos 모델에 대한 미국의 금지 조치에 항의

76명의 선도적인 사이버 보안 베테랑들로 구성된 연합이 Anthropic의 가장 진보된 AI 모델을 겨냥한 최근 미국 정부의 수출 통제 명령에 대해 경종을 울리고 있습니다. 이 단체는 이러한 도구에 대한 접근을 제한함으로써, 적대 세력이 계속해서 발전하는 동안 정부가 의도치 않게 디지털 방어자들의 무기를 해제하고 있다고 주장합니다.

갈등: 국가 안보 vs. 방어 역량

이번 긴장은 미국 정부가 공개되지 않은 국가 안보 우려를 이유로 Anthropic의 Fable 및 Mythos 모델에 대해 수출 통제 명령을 내리면서 시작되었습니다. 해당 명령을 준수하기 위해 Anthropic은 이 모델들에 대한 전 세계적 접근을 중단했습니다.

Mythos 모델은 원래 취약점 발견을 위한 매우 높은 수준의 역량을 갖추도록 설계되어, Anthropic은 처음에 15개국 약 150개 조직으로 구성된 선택된 그룹에만 접근을 제한했습니다. 대중에게 공개되는 버전인 Fable은 생물학, 화학 및 사이버 보안 분야에서의 오용을 방지하기 위해 엄격한 가드레일을 포함하도록 설계되었습니다. 그러나 정부의 개입으로 인해 인터넷 보안을 담당하는 바로 그 사람들을 위한 이러한 강력한 도구의 배포가 사실상 중단되었습니다.

"탈옥(Jailbreak)" 논란과 Amazon 논문

Anthropic은 백악관의 명령이 안전 가드레일을 우회하는 데 사용되는 방법인 "탈옥(jailbreaking)"에 대한 우려에서 비롯되었을 수 있다고 시사합니다. 이 우려는 Amazon 연구원들의 비공개 연구 논문에서 기인한 것으로 알려졌습니다.

해당 논문은 사용자가 Fable의 보안 제한을 우회하여 Mythos 수준의 역량에 접근할 수 있다고 시사했습니다. 그러나 Katie Moussouris(Luta Security 설립자)를 포함한 사이버 보안 전문가들은 이것이 AI 유용성에 대한 근본적인 오해라고 주장합니다. Moussouris는 설명된 "탈옥"이 단순히 모델이 의도된 기능, 즉 알려진 취약점이 포함된 오픈 소스 코드를 수정하는 작업을 수행한 것뿐이라고 주장합니다.

Moussouris에 따르면, AI에게 버그를 수정하고, 패치를 설명하며, 테스트 코드를 작성하도록 요청하는 것은 보안 침해가 아닙니다. 이는 현대의 방어적 보안을 정의하는 "찾고, 수정하고, 테스트하는 루프(find, fix, and test loop)"입니다. 이러한 동작을 차단하려는 시도는 소프트웨어를 보호하는 모델의 능력을 근본적으로 무력화할 것입니다.

중대한 이해관계가 걸린 서명자들과 업계에 미치는 영향

이 공개 서한은 전 Facebook 보안 책임자 Alex Stamos, Bugcrowd 설립자 Casey Ellis, 그리고 유명 암호학자 Jon Callas를 포함한 보안 커뮤니티의 거물급 인사들이 지지하고 있습니다. 이들의 주장은 중대한 불균형에 초점을 맞추고 있습니다. 즉, 공격자들은 제한 없는 모델을 사용하는 반면 방어자들에게 최첨단 LLM에 대한 접근이 차단된다면, 전 세계적인 보안 태세가 약화될 것이라는 점입니다.

전문가들은 또한 Fable에서 인지된 취약점이 Anthropic만의 문제는 아니라고 지적했습니다. 서한은 유사한 "취약점"이 OpenAI’s GPT-5.5, Anthropic의 Claude Opus 4.8 및 Sonnet, 그리고 Kimi 2.7과 같은 해외 모델에서도 재현될 수 있음을 시사합니다.

이 그룹은 득보다 실이 많을 수 있는 광범위하고 즉흥적인 금지 조치보다는 투명한 연구에 기반한 민주적이고 과학적인 규제 프로세스를 촉구하고 있습니다.

핵심 요약