다큐멘터리 NAZA는 이스라엘 군이 가자 전쟁의 타격 체계에 인공지능 알고리즘을 결합했다고 밝히며, 인구 밀집 전투 지역에서의 자율 무기 사용에 대한 전 세계적인 논쟁을 불러일으키고 있습니다. 현재 또는 전직 이스라엘 정보 요원 및 군인 24명의 증언을 바탕으로 제작된 이 영화는 베니스 국제 영화제에서 25분간의 기립 박수를 받으며 전 세계적인 관심을 입증했습니다.
영화가 설명하는 AI의 타격 루프 진입 방식
이전 프로젝트로 오스카를 수상한 유발 아브라함(Yuval Abraham)과 라헬 쇼르(Rachel Szor) 감독은 가공되지 않은 데이터를 치명적인 타격으로 전환하는 디지털 도구의 연쇄 과정을 설명합니다. 내부 관계자들에 따르면, AI 모델은 위성 이미지, 드론 피드, 가로채기 된 모바일 트래픽을 분석하여 "하급" 하마스 요원을 식별합니다. 그 후 모델은 야간 공습을 위한 특정 좌표(종종 주거용 주택)를 산출합니다.
인터뷰 대상자들은 개인 휴대전화를 해킹하여 개인의 위치를 파악하는 병행 감시 작전에 대해 설명합니다. 한 군인은 미사일이 발사되기 불과 몇 분 전, 표적과 가족 구성원 사이의 사적인 대화를 들었던 경험을 회상합니다. 영화는 이스라엘 군이 공개적으로는 항상 인간이 "빨간 버튼을 누른다"고 주장하지만, 실제로는 알고리즘의 결과물이 의사결정을 강력하게 유도하며 사실상 데이터를 대량 살상의 방아쇠로 바꾸고 있다고 시사합니다.
NAZA는 남성, 여성, 어린이를 포함한 민간인 사상자를 지칭하는 이스라엘 내부의 약어로 제시됩니다. 참가자들은 신원을 보호하기 위해 목소리와 얼굴을 디지털로 변형하여 등장하지만, 식량 배급소를 포함한 마을 전체의 체계적인 파괴와 타격 구역 내에 갇힌 비전투원들의 살상을 묘사합니다.
비밀 부대와 "평화 저해" 주장
한 증언은 총리에게 직접 보고하는 비밀 정보 부대에서 나왔습니다. 한 구성원은 해당 부대의 명시적인 임무가 "평화를 저해하는 것"이라고 주장하며, 이는 전술적 교전을 넘어 지역 불안정화를 위한 광범위한 전략까지 포함함을 시사합니다. 영화 제작진은 다양한 반응을 포착합니다. 어떤 군인들은 깊은 후회를 말하는 반면, 다른 이들은 시스템의 효율성에 대해 소름 끼칠 정도의 무관심이나 심지어 자부심을 보이기도 합니다.
가자 분쟁의 더 넓은 맥락
약 200만 명이 거주하는 가자 지구는 수개월 동안 격렬한 폭격을 견뎌왔습니다. 인도주의 기구들은 민간인 피해에 대해 반복적으로 비난해 왔습니다. NAZA는 신속하고 정밀한 타격을 가능하게 하는 기술이, 알고리즘이 부수적 피해 완화보다 표적 제거를 우선시할 때 민간인 피해의 위험을 높인다고 주장하며 논란에 새로운 층위를 더합니다.
이 영화는 국제 사회가 기존의 무력 충돌법을 AI 기반 무기에 어떻게 적용할 것인지와 씨름하고 있는 시점에 등장했습니다. 유엔(UN)과 여러 NGO는 살상 결정을 기계에 위임하는 것이 책임성을 약화시킨다고 경고하며, 더 명확한 "인간 개입(human-in-the-loop)" 표준을 촉구해 왔습니다. 이스라엘은 모든 타격에 최종적인 인간의 승인이 필요하다는 입장을 유지하고 있으나, 다큐멘터리는 표적의 사전 선정 및 압축 과정에서 AI 시스템이 수행하는 역할을 강조하며 이 입장에 이의를 제기합니다.
이번 의혹이 인도에 갖는 의미
- AI 전쟁에서의 전략적 자율성 – 인도는 자체적인 AI 기반 국방 프로그램을 가속화하고 있습니다. NAZA의 폭로는 정책 입안자들이 유사한 시스템을 배치하기 전에 강력한 인간 개입(human-in-the-loop) 안전장치를 마련하도록 촉구하는 경고성 사례 연구를 제공합니다.
- 외교적 균형 잡기 – 뉴델리와 이스라엘의 국방 파트너십은 여전히 강력하지만, 인도는 팔레스타인의 권리에 대해서도 오랜 입장을 유지하고 있습니다. 이 다큐멘터리는 인도 관리들이 양자 회담과 다자간 포럼에서 때때로 충돌하는 이러한 우선순위들을 조화시켜야 한다는 압박을 가합니다.
- 글로벌 규범 설정 – 주요 국방 기술 수출국으로서 인도는 향후 AI 무기 규제에 관한 UN 심의에서 역할을 요구받을 가능성이 높습니다. 이 영화는 자율 시스템이 확립된 민간인 보호 조치를 우회하는 것을 방지하는 규칙을 만드는 일의 시급성을 강조합니다.
반론 및 증거의 한계
이스라엘 관리들은 AI 도구의 존재를 부정하지는 않지만, 그것이 단지 의사결정 지원 도구일 뿐이라고 강조합니다. 그들은 특히 전투원이 민간인과 섞여 있는 도시 환경에서의 현대전 속도는 인간이 단독으로는 달성할 수 없는 신속한 데이터 처리를 요구한다고 주장합니다. 그들은 "인간 개입(human-in-the-loop)" 원칙이 각 타격을 승인하는 지휘관에게 법적, 도덕적 책임을 유지시킨다고 말합니다.
비평가들은 참가자들이 익명으로 처리되었으며, 영화가 작전 로그나 독립적인 기술 감사를 제시하지 않는다는 점을 지적한다. 이러한 입증 자료 없이는, 자동화의 정도나 특정 공격의 의도에 대해 확정적인 결론을 내리는 것에 대해 일부 관찰자들이 주의를 당부하고 있다.
향후 주목할 점
- 조사 – 인권 단체들은 관련 군사 로그에 대한 접근 권한을 요청할 계획이라고 발표했다. 이스라엘이 이러한 정밀 조사를 허용할지는 불확실하다.
- 법적 공방 – 국제형사재판소(ICC)는 AI 기반 표적 설정의 사용 혐의가 민간인과 전투원을 구분해야 하는 전투원의 의무인 '구별의 원칙'을 위반했는지 여부를 검토할 수 있다.
- 정책적 대응 – 인도를 포함하여 AI 기반 무기를 개발 중인 국가들은 NAZA가 제기한 윤리적 및 작전적 함의를 평가하기 위해 전문가 패널을 소집할 것으로 예상된다.
NAZA는 한때 공상과학 영화에서나 상상했던 현실을 직시하게 만든다. 기술이 이제 일상적인 전쟁의 중심에 자리 잡고 있다. 이 영화의 주장이 세계가 전투 중 AI를 규제하는 방식에 구체적인 변화를 가져올지는 알 수 없으나, 이 영화가 촉발한 논쟁은 차세대 분쟁의 교전 규칙을 형성하게 될 것이다.