纪录片 NAZA 指出,以色列军队已将人工智能算法编织进其加沙战争的目标选择链中,引发了关于在人口密集战场使用自主武器的全球辩论。该片基于 24 名现任或前任以色列情报官员及士兵的证词,在威尼斯电影节首映时获得了长达 25 分钟的起立鼓掌,凸显了其引发的全球关注。
影片揭示了 AI 如何进入目标选择闭环
导演 Yuval Abraham 和 Rachel Szor(曾凭借之前的项目获得奥斯卡奖)阐述了一套数字工具链,他们认为这些工具将原始数据转化为致命打击。知情人士表示,AI 模型通过筛选卫星图像、无人机画面和拦截的移动通信流量,来标记“低级别”的哈马斯成员。随后,该模型会输出具体的坐标(通常是民宅),用于夜间空袭。
受访者描述了一种平行的监视行动,通过黑入个人手机来定位目标。一名士兵讲述了在导弹发射前几分钟,他听到目标与家人之间的私人对话。影片暗示,尽管以色列军方公开坚称始终由人类“按下红色按钮”,但算法输出在很大程度上引导了决策过程,实际上将数据转化为了大规模破坏的触发器。
NAZA 在以色列内部被用作平民伤亡(包括男女老幼)的简写。为了保护身份,参与者通过数字技术修改了声音和面部,但他们描述了对整个街区(包括食品分配点)的系统性拆除,以及在打击区域内被杀害的非战斗人员。
秘密部队与“破坏和平”的指控
其中一份证词来自一个直接向总理汇报的秘密情报部门。一名成员指控该部门的明确任务是“破坏和平”,暗示其目标已超出了战术交战,上升到了地区动荡的更广泛战略层面。电影记录了各种反应:一些士兵表达了深切的悔意,而另一些人则表现出令人胆寒的冷漠,甚至对系统的效率感到自豪。
加沙冲突的更广泛背景
加沙地带居住着约 200 万人,数月来一直遭受猛烈的轰炸。人道主义组织多次谴责平民伤亡情况。NAZA 为这场争议增添了新的维度,它认为,实现快速、精准打击的技术在算法优先考虑消除目标而非减轻附带损伤时,也会增加平民受害的风险。
该片问世之际,国际社会正致力于研究现有的武装冲突法如何适用于 AI 驱动的武器。联合国和多家非政府组织已呼吁制定更明确的“人在回路中”(human-in-the-loop)标准,警告称将致命决策委托给机器会削弱问责制。以色列坚称,每一次打击都需要人类的最终授权,而纪录片通过强调 AI 系统在预选和缩小目标范围方面的作用,对这一立场提出了质疑。
这些指控对印度的意义
- AI 战争中的战略自主 – 印度正在加速推进自身的 AI 赋能国防计划。NAZA 的披露提供了一个警示性的案例研究,促使决策者在部署类似系统之前,嵌入强大的“人在回路中”保障机制。
- 外交平衡术 – 新德里与以色列的国防伙伴关系依然稳固,但印度同时也坚持着在巴勒斯坦权利问题上的长期立场。这部纪录片增加了印度官员在双边谈判和多边论坛中协调这些有时相互冲突的优先事项的压力。
- 全球规范制定 – 作为国防技术的主要出口国,印度在未来联合国关于 AI 武器监管的审议中可能会被要求发挥作用。影片强调了制定规则的紧迫性,以防止自主系统规避既定的平民保护措施。
反驳观点与证据的局限性
以色列官员并未否认 AI 工具的存在,但强调它们仅仅是决策支持工具。他们认为,现代战斗的速度——尤其是在战斗人员与平民混杂的城市环境中——需要极快的数据处理能力,这是任何人类在没有辅助的情况下都无法实现的。他们表示,“人在回路中”的说法确保了法律和道德责任仍由授权每次打击的指挥官承担。
批评人士指出,参与者均已匿名,且影片并未提供操作日志或独立的第三方技术审计。由于缺乏此类佐证,一些观察家警告称,不要就自动化的程度或特定打击背后的意图得出定论。
接下来值得关注的内容
- 调查 – 人权组织已宣布计划请求查阅相关的军事日志。以色列是否会允许此类审查仍不确定。
- 法律挑战 – 国际刑事法院可能会考虑,据称使用的 AI 驱动目标定位技术是否违反了“区分原则”,即要求战斗人员必须区分平民与战斗人员。
- 政策响应 – 包括印度在内的正在研发 AI 武器的国家,预计将召集专家小组,以评估 NAZA 所揭示的伦理和操作层面的影响。
NAZA 迫使人们去面对一个曾经只存在于科幻小说中的现实:技术如今已处于日常战争的核心。该片的说法是否会转化为世界治理战斗中 AI 方式的具体变革尚不可知,但它所引发的辩论将塑造下一代冲突的交战规则。
