NAZA belgeseli, İsrail ordusunun Gazze savaşındaki hedefleme zincirine yapay zeka algoritmalarını dahil ettiğini belirterek, yoğun nüfuslu savaş alanlarında otonom silahların kullanımına ilişkin küresel bir tartışma başlatıyor. 24 mevcut veya eski İsrail istihbarat subayı ve askerinin tanıklıklarına dayanan film, Venedik'te 25 dakikalık ayakta alkışlanmayla açıldı ve bu da çektiği dünya çapındaki ilginin altını çizdi.
Belgesele göre yapay zeka hedefleme döngüsüne nasıl girdi
Önceki projelerinden Oscar ödüllü yönetmenler Yuval Abraham ve Rachel Szor, ham verileri ölümcül saldırılara dönüştürdüğünü savundukları bir dijital araçlar zinciri sunuyor. İçeriden isimler, yapay zeka modellerinin "düşük rütbeli" Hamas mensuplarını tespit etmek için uydu görüntülerini, drone akışlarını ve ele geçirilen mobil trafiği taradığını söylüyor. Model daha sonra, genellikle konutların bulunduğu belirli koordinatları bir gece hava saldırısı için çıktı olarak veriyor.
Görüşülen kişiler, bireylerin yerini tespit etmek için kişisel cep telefonlarını hackleyen paralel bir gözetleme operasyonunu tarif ediyor. Bir asker, bir füze fırlatılmadan sadece dakikalar önce bir hedef ile bir aile üyesi arasındaki özel bir konuşmayı duyduğunu anlatıyor. Film, İsrail ordusunun kamuoyu önünde her zaman bir insanın "kırmızı düğmeye bastığı" konusunda ısrar etmesine rağmen, algoritmik çıktıların karar verme sürecine büyük ölçüde yön verdiğini ve verileri etkili bir şekilde kitlesel yıkım tetikleyicisine dönüştürdüğünü öne sürüyor.
NAZA, erkekler, kadınlar ve çocuklar gibi sivil kayıplar için İsrail içinde kullanılan bir kısaltma olarak sunuluyor. Katılımcılar kimliklerini korumak için dijital olarak değiştirilmiş sesler ve yüzlerle görünseler de; gıda dağıtım alanları da dahil olmak üzere tüm mahallelerin sistematik olarak yıkıldığını ve saldırı bölgesinde kalan sivillerin öldürüldüğünü anlatıyorlar.
Gizli bir birim ve "barışı engelleme" iddiası
Tanıklıklardan biri, doğrudan başbakanlığa rapor veren gizli bir istihbarat biriminden geliyor. Bir üye, birimin açık misyonunun "barışı engellemek" olduğunu iddia ederek, hedeflerin taktiksel çatışmanın ötesine geçip bölgesel istikrarsızlaştırma stratejisine uzandığını ima ediyor. Film yapımcıları bir reaksiyon yelpazesini kayıt altına alıyor: Bazı askerler derin bir pişmanlıktan bahsederken, diğerleri sistemin verimliliğine karşı ürpertici bir kayıtsızlık, hatta gurur sergiliyor.
Gazze çatışmasının daha geniş bağlamı
Yaklaşık iki milyon insanın yaşadığı Gazze Şeridi, aylardır yoğun bombardıman altında. İnsani yardım kuruluşları sivil kayıpları defalarca kınadı. NAZA, hızlı ve hassas saldırıları mümkün kılan teknolojinin, algoritmalar hedef imhasına ikincil zararları azaltmaktan daha fazla öncelik verdiğinde sivil zarar riskini de artırdığını savunarak tartışmaya yeni bir boyut kazandırıyor.
Film, uluslararası toplumun mevcut silahlı çatışma yasalarının yapay zeka destekli silahçılığa nasıl uygulanacağı konusunda çabaladığı bir dönemde geliyor. Birleşmiş Milletler ve çeşitli STK'lar, ölümcül kararların makinelere devredilmesinin hesap verebilirliği zayıflatacağı uyarısında bulunarak, daha net "insan denetimi" (human-in-the-loop) standartları çağrısında bulundu. İsrail, her saldırının nihai bir insan onayı gerektirdiğini savunurken, belgesel yapay zeka sisteminin hedeflerin ön seçimi ve daraltılmasındaki rolünü vurgulayarak bu duruşa meydan okuyor.
İddiaların Hindistan için anlamı
- Yapay zeka savaşında stratejik özerklik – Hindistan, yapay zeka destekli kendi savunma programlarını hızlandırıyor. NAZA'nın ortaya koydukları, politika yapıcıları benzer sistemleri sahaya sürmeden önce güçlü insan denetimi güvenceleri yerleştirmeye teşvik eden ihtiyatlı bir vaka çalışması sunuyor.
- Diplomatik denge politikası – Yeni Delhi'nin İsrail ile savunma ortaklığı güçlü kalmaya devam ediyor, ancak ülke aynı zamanda Filistin hakları konusundaki köklü duruşunu da sürdürüyor. Belgesel, Hindistanlı yetkililer üzerindeki, ikili görüşmelerde ve çok taraflı forumlarda bu bazen çatışan öncelikleri uzlaştırma baskısını artırıyor.
- Küresel norm belirleme – Önemli bir savunma teknolojisi ihracatçısı olan Hindistan'ın, gelecekte yapay zeka silah düzenlemeleri konusundaki BM müzakerelerinde adı muhtemelen geçecektir. Film, otonom sistemlerin sivil korumaları baypas etmesini engelleyecek kuralların oluşturulmasının aciliyetini vurguluyor.
Karşı argümanlar ve kanıtların sınırları
İsrailli yetkililer yapay zeka araçlarının varlığını reddetmiyor ancak bunların yalnızca karar destek yardımcıları olduğunu vurguluyorlar. Özellikle savaşçıların sivillerle iç içe geçtiği kentsel ortamlarda, modern savaşın hızının hiçbir insanın tek başına başaramayacağı hızlı veri işleme gerektirdiğini savunuyorlar. "İnsan denetimi" iddiasının, her saldırıyı onaylayan komutanın yasal ve ahlaki sorumluluğunu koruduğunu söylüyorlar.
Eleştirmenler, katılımcıların anonimleştirildiğini ve filmin operasyonel kayıtlar veya bağımsız teknik denetimler sunmadığını belirtiyor. Bu tür bir teyit olmaksızın, bazı gözlemciler otomasyonun boyutu veya belirli saldırıların arkasındaki niyet hakkında kesin sonuçlara varmaya karşı temkinli yaklaşıyor.
Bundan sonra takip edilecekler
- Soruşturmalar – İnsan hakları grupları, ilgili askeri kayıtlara erişim talep etme planlarını duyurdu. İsrail'in böyle bir incelemeye izin verip vermeyeceği belirsizliğini koruyor.
- Hukuki süreçler – Uluslararası Ceza Mahkemesi, yapay zeka destekli hedeflemenin iddia edilen kullanımının, muhariplerin siviller ile savaşanları ayırt etmesini zorunlu kılan ayrım gözetme ilkesini ihlal edip etmediğini değerlendirebilir.
- Politika yanıtları – Hindistan da dahil olmak üzere yapay zeka destekli silahlar geliştiren ülkelerin, NAZA'nın vurguladığı etik ve operasyonel etkileri değerlendirmek üzere uzman panelleri toplaması bekleniyor.
NAZA, bir zamanlar sadece bilimkurguda hayal edilen bir gerçeklikle hesaplaşmaya zorluyor: teknoloji artık günlük savaşın tam kalbinde yer alıyor. Filmin iddialarının, dünyanın çatışmalarda yapay zekayı yönetme biçiminde somut değişikliklere dönüşüp dönüşmeyeceği bilinmiyor; ancak başlattığı tartışma, gelecek nesil çatışmaların angajman kurallarını şekillendirecek.