В документальном фильме NAZA утверждается, что израильские военные внедрили алгоритмы искусственного интеллекта в свою цепочку выбора целей в войне в Газе, что вызвало глобальные дебаты об автономном оружии на густонаселенных полях сражений. Основанный на показаниях 24 действующих или бывших офицеров израильской разведки и солдат, фильм встретил 25-минутные овации стоя в Венеции, что подчеркивает интерес мирового сообщества к этой теме.

Как, согласно фильму, ИИ вошел в цикл выбора целей

Режиссеры Юваль Абрахам и Рашель Шор — лауреаты премии «Оскар» за предыдущий проект — описывают цепочку цифровых инструментов, которые, по их утверждению, превращают необработанные данные в смертоносные удары. Инсайдеры сообщают, что модели ИИ анализируют спутниковые снимки, данные с беспилотников и перехваченный мобильный трафик, чтобы выявлять «низкоранговых» оперативников ХАМАС. Затем модель выдает конкретные координаты, часто жилых домов, для ночного авиаудара.

Интервьюируемые описывают параллельную операцию по слежке, в ходе которой взламываются личные мобильные телефоны для поиска людей. Один солдат вспоминает, как слышал частный разговор между целью и членом семьи всего за несколько минут до запуска ракеты. Фильм предполагает, что, хотя израильские военные публично настаивают на том, что человек всегда «нажимает на красную кнопку», алгоритмические результаты во многом направляют процесс принятия решений, фактически превращая данные в триггер для массового уничтожения.

NAZA представляется как внутреннее израильское сокращение для обозначения гражданских жертв — мужчин, женщин и детей. Чтобы защитить их личности, участники появляются с измененными цифровым способом голосами и лицами, однако они описывают систематическое разрушение целых кварталов, включая пункты распределения продовольствия, и убийства некомбатантов, оказавшихся в зоне удара.

Секретное подразделение и утверждение о «препятствовании миру»

Одно из показаний исходит от секретного разведывательного подразделения, которое подчиняется непосредственно премьер-министру. Один из участников утверждает, что явной миссией подразделения было «препятствовать миру», подразумевая цели, выходящие за рамки тактических действий и направленные на более широкую стратегию региональной дестабилизации. Режиссеры запечатлели спектр реакций: одни солдаты говорят о глубоком раскаянии, в то время как другие демонстрируют пугающее безразличие или даже гордость за эффективность системы.

Более широкий контекст конфликта в Газе

Сектор Газа, где проживает около двух миллионов человек, на протяжении нескольких месяцев подвергается интенсивным бомбардировкам. Гуманитарные организации неоднократно осуждали жертвы среди гражданского населения. NAZA добавляет новый уровень в эту дискуссию, утверждая, что технологии, обеспечивающие быстрые и точные удары, также повышают риск причинения вреда гражданским лицам, когда алгоритмы отдают приоритет ликвидации цели, а не минимизации сопутствующего ущерба.

Фильм выходит в то время, когда международное сообщество пытается понять, как существующие законы ведения вооруженных конфликтов применяются к вооружению на базе ИИ. Организация Объединенных Наций и ряд неправительственных организаций призвали к установлению более четких стандартов «участия человека в контуре управления» (human-in-the-loop), предупреждая, что делегирование летальных решений машинам подрывает подотчетность. Израиль утверждает, что каждый удар требует окончательного разрешения человека — позиция, которую документальный фильм оспаривает, подчеркивая роль системы ИИ в предварительном отборе и сужении круга целей.

Что эти обвинения значат для Индии

  • Стратегическая автономия в ведении войн с применением ИИ – Индия ускоряет реализацию собственных программ обороны с использованием ИИ. Разоблачения в фильме NAZA служат предостерегающим примером, побуждающим политиков внедрять надежные механизмы контроля с участием человека перед развертыванием подобных систем.
  • Дипломатическое балансирование – Оборонное партнерство Нью-Дели с Израилем остается крепким, однако страна также придерживается давней позиции по правам палестинцев. Документальный фильм усиливает давление на индийских официальных лиц, заставляя их искать компромисс между этими иногда противоречивыми приоритетами в двусторонних переговорах и на многосторонних форумах.
  • Установление глобальных норм – Как крупный экспортер оборонных технологий, Индия, вероятно, будет привлечена к будущим обсуждениям в ООН по вопросам регулирования оружия с ИИ. Фильм подчеркивает необходимость скорейшей разработки правил, которые не позволят автономным системам обходить установленные меры защиты гражданского населения.

Контраргументы и пределы доказательной базы

Израильские официальные лица не оспаривают наличие инструментов ИИ, но подчеркивают, что они являются лишь средствами поддержки принятия решений. Они утверждают, что скорость современных боевых действий, особенно в городских условиях, где комбатанты смешиваются с гражданским населением, требует быстрой обработки данных, которую ни один человек не смог бы осуществить без помощи. Заявление об «участии человека в контуре управления», по их словам, оставляет юридическую и моральную ответственность за командиром, который санкционирует каждый удар.

Критики отмечают, что участники анонимны, а в фильме не представлены операционные журналы или независимые технические аудиты. Без подобного подтверждения некоторые наблюдатели предостерегают от окончательных выводов о степени автоматизации или намерениях, стоящих за конкретными ударами.

Что искать дальше

  • Расследования — правозащитные группы объявили о планах запросить доступ к соответствующим военным журналам. Будет ли Израиль предоставлять доступ для такой проверки, остается неопределенным.
  • Правовые вызовы — Международный уголовный суд может рассмотреть вопрос о том, нарушает ли предполагаемое использование систем наведения на основе ИИ принцип различения, который обязывает комбатантов отличать гражданских лиц от участников боевых действий.
  • Политические меры — Ожидается, что страны, разрабатывающие оружие с поддержкой ИИ, включая Индию, соберут экспертные группы для оценки этических и операционных последствий, освещенных в NAZA.

NAZA заставляет столкнуться с реальностью, которую раньше представляли только в научной фантастике: технологии теперь лежат в основе повседневных боевых действий. Остается неизвестным, приведут ли утверждения фильма к конкретным изменениям в том, как мир регулирует использование ИИ в бою, но вызванная им дискуссия определит правила ведения боевых действий для следующего поколения конфликтов.