Документальний фільм NAZA стверджує, що ізраїльські військові вплели алгоритми штучного інтелекту в ланцюг вибору цілей під час війни в Газі, що спровокувало глобальні дебати щодо автономної зброї на густонаселених полях бою. Спираючись на свідчення 24 чинних або колишніх офіцерів розвідки та солдатів Ізраїлю, фільм отримав 25-хвилинну овацію стоячи у Венеції, що підкреслює увагу, яку він привернув у всьому світі.

Як, за версією фільму, ШІ потрапив у цикл вибору цілей

Режисери Юваль Абрахам і Рашель Шора — лауреати премії «Оскар» за попередній проєкт — описують ланцюг цифрових інструментів, які, на їхню думку, перетворюють необроблені дані на смертоносні удари. Інсайдери кажуть, що моделі ШІ переглядають супутникові знімки, дані з дронів та перехоплений мобільний трафік, щоб виявити «низькопоставлених» оперативників ХАМАС. Потім модель видає конкретні координати, часто житлові будинки, для нічного авіаудару.

Опитувані описують паралельну операцію з нагляду, яка зламує особисті мобільні телефони для відстеження людей. Один солдат розповідає, як почув приватну розмову між ціллю та членом сім'ї лише за кілька хвилин до запуску ракети. Фільм припускає, що, хоча ізраїльські військові публічно наполягають на тому, що людина завжди «натискає червону кнопку», результати роботи алгоритмів суттєво спрямовують процес прийняття рішень, фактично перетворюючи дані на тригер для масового знищення.

NAZA подається як внутрішній ізраїльський шифр для позначення цивільних жертв — чоловіків, жінок і дітей. Щоб захистити їхню особистість, учасники з'являються з цифрово зміненими голосами та обличчями, проте вони описують систематичне знесення цілих кварталів, включаючи пункти розподілу їжі, та вбивство некомбатантів, які потрапили в зону удару.

Секретний підрозділ і твердження про «перешкоджання миру»

Одне зі свідчень належить до таємного розвідувального підрозділу, який підпорядковується безпосередньо прем'єр-міністру. Один із учасників стверджує, що прямою місією підрозділу було «перешкоджати миру», що передбачає цілі, які виходять за межі тактичного протистояння і спрямовані на ширшу стратегію регіональної дестабілізації. Творці фільму фіксують спектр реакцій: деякі солдати говорять про глибоке каяття, тоді як інші демонструють моторошну байдужість або навіть гордість за ефективність системи.

Ширший контекст конфлікту в Газі

Сектор Гази, де проживає близько двох мільйонів людей, місяцями перебуває під інтенсивними бомбардуваннями. Гуманітарні організації неодноразово засуджували кількість жертв серед цивільного населення. NAZA додає новий рівень дискусії, стверджуючи, що технології, які забезпечують швидкі та точні удари, також підвищують ризик заподіяння шкоди цивільним, коли алгоритми ставлять пріоритет на ліквідацію цілі, а не на мінімізацію супутніх втрат.

Фільм з'являється в той час, коли міжнародна спільнота намагається зрозуміти, як існуючі закони ведення збройних конфліктів застосовуються до озброєння на базі ШІ. Організація Об'єднаних Націй та кілька неурядових організацій закликали до чіткіших стандартів «людини в контурі управління» (human-in-the-loop), попереджаючи, що делегування смертоносних рішень машинам підриває підзвітність. Ізраїль наполягає на тому, що кожен удар потребує остаточного дозволу людини — позиція, яку документальний фільм ставить під сумнів, підкреслюючи роль системи ШІ у попередньому відборі та звуженні кола цілей.

Що ці звинувачення означають для Індії

  • Стратегічна автономія у війні з використанням ШІ – Індія прискорює власні програми оборони з використанням ШІ. Викриття у фільмі NAZA слугують повчальним прикладом, що спонукає політиків впроваджувати надійні запобіжні заходи за принципом «людини в контурі управління» перед розгортанням подібних систем.
  • Дипломатичне балансування – Оборонне партнерство Нью-Делі з Ізраїлем залишається міцним, проте країна також дотримується давньої позиції щодо прав палестинців. Документальний фільм посилює тиск на індійських посадовців, змушуючи їх узгоджувати ці іноді суперечливі пріоритети в двосторонніх переговорах та на багатосторонніх форумах.
  • Встановлення глобальних норм – Як великий експортер оборонних технологій, Індія, ймовірно, буде залучена до майбутніх обговорень у ООН щодо регулювання зброї на базі ШІ. Фільм підкреслює нагальність формування правил, які б запобігали обходу встановлених механізмів захисту цивільного населення автономними системами.

Контраргументи та межі доказової бази

Ізраїльські офіційні особи не заперечують наявності інструментів ШІ, але наголошують, що вони є лише засобами підтримки прийняття рішень. Вони стверджують, що швидкість сучасного бою, особливо в міських умовах, де комбатанти змішуються з цивільними, вимагає швидкої обробки даних, яку жодна людина не змогла б здійснити без допомоги. Твердження про «людину в контурі управління», кажуть вони, зберігає юридичну та моральну відповідальність за командиром, який санкціонує кожен удар.

Критики зазначають, що учасники є анонімними, а у фільмі не наведено оперативних журналів або незалежних технічних аудитів. Без такого підтвердження деякі спостерігачі застерігають від зроблення остаточних висновків щодо ступеня автоматизації або намірів, що стоять за конкретними ударами.

Що подивитися далі

  • Розслідування – Правозахисні групи оголосили про плани вимагати доступу до відповідних військових журналів. Чи дозволить Ізраїль такий контроль, залишається невідомим.
  • Юридичні виклики – Міжнародний кримінальний суд може розглянути питання про те, чи порушує ймовірне використання цілепокладання на основі ШІ принцип розрізнення, який зобов'язує комбатантів розрізняти цивільних осіб та комбатантів.
  • Політичні реакції – Очікується, що країни, які розробляють зброю з підтримкою ШІ, зокрема Індія, скликатимуть експертні групи для оцінки етичних та оперативних наслідків, на яких наголошує NAZA.

NAZA змушує усвідомити реальність, яку раніше уявляли лише в науковій фантастиці: технології тепер перебувають у самому центрі повсякденних воєнних дій. Чи перетворяться твердження фільму на конкретні зміни в тому, як світ регулює використання ШІ в бою, залишається невідомим, але дискусія, яку він спровокував, визначатиме правила ведення бою для наступного покоління конфліктів.