مستند NAZA بیان میکند که ارتش اسرائیل الگوریتمهای هوش مصنوعی را در زنجیره هدفگیری جنگ غزه ادغام کرده است، موضوعی که بحثهای جهانی را درباره سلاحهای خودمختار در میدانهای نبرد پرجمعیت برانگیخته است. این فیلم که بر پایه شهادت ۲۴ افسر و سرباز فعلی یا سابق اطلاعاتی اسرائیل ساخته شده، در ونیز با یک تشویق ایستادهی ۲۵ دقیقهای روبهرو شد که نشاندهنده توجه جهانی به آن است.
نحوه ورود هوش مصنوعی به چرخه هدفگیری از دیدگاه فیلم
کارگردانان فیلم، یووال آبراهام و راشل زور — برندگان اسکار برای پروژهای پیشین — زنجیرهای از ابزارهای دیجیتال را شرح میدهند که به ادعای آنها، دادههای خام را به حملات مرگبار تبدیل میکنند. منابع مطلع میگویند مدلهای هوش مصنوعی تصاویر ماهوارهای، تصاویر پهپادی و ترافیک موبایل شنود شده را برای شناسایی عوامل «ردهپایین» حماس بررسی میکنند. سپس این مدل مختصات مشخصی، که اغلب خانههای مسکونی هستند را برای یک حمله هوایی شبانه ارائه میدهد.
مصاحبهشوندگان یک عملیات نظارتی موازی را توصیف میکنند که تلفنهای همراه شخصی را برای مکانیابی افراد هک میکند. یکی از سربازان روایت میکند که درست چند دقیقه قبل از پرتاب موشک، صدای مکالمه خصوصی بین یک هدف و یکی از اعضای خانوادهاش را شنیده است. فیلم نشان میدهد که اگرچه ارتش اسرائیل علناً تأکید میکند که یک انسان همیشه «دکمه قرمز را فشار میدهد»، اما خروجیهای الگوریتمی به شدت فرآیند تصمیمگیری را هدایت میکنند و در واقع دادهها را به ماشهای برای کشتار جمعی تبدیل میکنند.
NAZA به عنوان یک اصطلاح اختصاری داخلی در اسرائیل برای اشاره به تلفات غیرنظامیان — مردان، زنان و کودکان — ارائه شده است. شرکتکنندگان برای محافظت از هویت خود، با صداها و چهرههای تغییریافته دیجیتالی ظاهر میشوند، با این حال آنها تخریب سیستماتیک محلههای کامل، از جمله سایتهای توزیع غذا، و کشته شدن غیرنظامیان گرفتار در منطقه حمله را توصیف میکنند.
یک واحد مخفی و ادعای «مانع شدن از صلح»
یکی از شهادتها مربوط به یک واحد اطلاعاتی مخفی است که مستقیماً به نخستوزیر گزارش میدهد. یکی از اعضا ادعا میکند که مأموریت صریح این واحد «مانع شدن از صلح» بوده است، که نشاندهنده اهدافی فراتر از درگیریهای تاکتیکی و در راستای یک استراتژی گستردهتر برای بیثباتسازی منطقه است. فیلم طیف وسیعی از واکنشها را ثبت کرده است: برخی سربازان از پشیمانی عمیق سخن میگویند، در حالی که برخی دیگر بیتفاوتی تکاندهنده یا حتی افتخار به کارایی این سیستم را نشان میدهند.
بافت گستردهتر درگیری غزه
نوار غزه، محل سکونت حدود دو میلیون نفر، ماههاست که بمبارانهای شدیدی را تحمل میکند. سازمانهای بشردوستانه بارها تلفات غیرنظامی را محکوم کردهاند. NAZA با این استدلال که فناوریِ توانمندسازِ حملات سریع و دقیق، خطر آسیب به غیرنظامیان را نیز زمانی که الگوریتمها حذف هدف را بر کاهش آسیبهای جانبی اولویت میدهند، افزایش میدهد، لایه جدیدی به این جنجال میافزاید.
این فیلم در حالی منتشر میشود که جامعه بینالمللی با چگونگی اعمال قوانین موجود در درگیریهای مسلحانه بر تسلیحات مبتنی بر هوش مصنوعی دستوپنجه نرم میکند. سازمان ملل متحد و چندین سازمان غیردولتی خواستار استانداردهای شفافتر برای «حضور انسان در چرخه تصمیمگیری» (human-in-the-loop) شدهاند و هشدار میدهند که واگذاری تصمیمات مرگبار به ماشینها، پاسخگویی را از بین میبرد. اسرائیل تأکید دارد که هر حمله نیازمند تأیید نهایی انسان است؛ موضعی که این مستند با برجسته کردن نقش سیستم هوش مصنوعی در پیشانتخاب و محدود کردن اهداف، آن را به چالش میکشد.
پیامدهای این ادعاها برای هند
- خودمختاری استراتژیک در جنگهای مبتنی بر هوش مصنوعی – هند در حال شتاب بخشیدن به برنامههای دفاعی خود مبتنی بر هوش مصنوعی است. افشاگریهای NAZA یک مطالعه موردی هشداردهنده فراهم میکند و سیاستگذاران را وادار میکند تا پیش از بهکارگیری سیستمهای مشابه، تدابیر حفاظتی قوی برای حضور انسان در چرخه تصمیمگیری را در برنامههای خود بگنجانند.
- توازن دیپلماتیک – شراکت دفاعی دهلی نو با اسرائیل همچنان قوی است، اما این کشور همچنین بر موضع دیرینه خود در مورد حقوق فلسطینیها پافشاری میکند. این مستند فشار بر مقامات هندی را برای آشتی دادن این اولویتهای گاه متضاد در گفتگوهای دوجانبه و مجامع چندجانبه افزایش میدهد.
- تعیین هنجارهای جهانی – هند به عنوان صادرکننده اصلی فناوریهای دفاعی، احتمالاً در رایزنیهای آتی سازمان ملل در مورد تنظیم مقررات سلاحهای هوش مصنوعی مورد خطاب قرار خواهد گرفت. این فیلم بر فوریت شکلدهی به قوانینی تأکید میکند که از دور زدن حفاظتهای تثبیتشده برای غیرنظامیان توسط سیستمهای خودمختار جلوگیری کند.
استدلالهای متقابل و محدودیتهای شواهد
مقامات اسرائیلی وجود ابزارهای هوش مصنوعی را رد نکردهاند، اما تأکید میکنند که این ابزارها صرفاً کمککننده در تصمیمگیری هستند. آنها استدلال میکنند که سرعت نبردهای مدرن، به ویژه در محیطهای شهری که جنگجویان با غیرنظامیان ترکیب میشوند، نیازمند پردازش سریع دادههاست که هیچ انسانی نمیتواند بدون کمک انجام دهد. آنها میگویند ادعای «حضور انسان در چرخه تصمیمگیری»، مسئولیت قانونی و اخلاقی را نزد فرماندهای که هر حمله را تأیید میکند، حفظ میکند.
منتقدان خاطرنشان میکنند که هویت شرکتکنندگان فاش نشده است و فیلم گزارشهای عملیاتی یا حسابرسیهای فنی مستقل ارائه نمیدهد. بدون چنین تأییدی، برخی ناظران نسبت به نتیجهگیری قطعی درباره میزان خودکارسازی یا هدف پشت حملات خاص هشدار میدهند.
آنچه در ادامه باید دنبال کرد
- تحقیقات – گروههای حقوق بشری برنامههای خود را برای درخواست دسترسی به گزارشهای نظامی مربوطه اعلام کردهاند. اینکه آیا اسرائیل اجازه چنین بازرسیهایی را خواهد داد یا خیر، همچنان نامشخص است.
- چالشهای حقوقی – دیوان کیفری بینالمللی میتواند بررسی کند که آیا استفاده ادعایی از هدفگیری مبتنی بر هوش مصنوعی، اصل تفکیک را نقض میکند یا خیر؛ اصلی که مبارزان را موظف میکند میان غیرنظامیان و جنگجویان تمایز قائل شوند.
- پاسخهای سیاستی – انتظار میرود کشورهایی که در حال توسعه سلاحهای مجهز به هوش مصنوعی هستند، از جمله هند، هیئتهای کارشناسی را برای ارزیابی پیامدهای اخلاقی و عملیاتی برجسته شده توسط NAZA تشکیل دهند.
NAZA ما را وادار به مواجهه با واقعیتی میکند که زمانی تنها در داستانهای علمی-تخیلی تصور میشد: اکنون فناوری در قلب جنگهای روزمره قرار گرفته است. اینکه آیا ادعاهای این فیلم به تغییرات ملموسی در نحوه حکمرانی جهان بر هوش مصنوعی در میدان نبرد منجر خواهد شد یا خیر، مشخص نیست، اما بحثی که این فیلم برانگیخته است، قواعد درگیری را برای نسل بعدی منازعات شکل خواهد داد.