India Inakabiliwa na Mtihani wa Kidiplomasia Wakati NAZA Inapofichua Mbinu za Israeli za Vita vya AI

Filamu ya marejeo NAZA inasema jeshi la Israel limejumuisha kanuni za akili mnemba (AI) katika mnyororo wake wa kuchagua malengo katika vita vya Gaza, jambo linalochochea mjadala wa kimataifa kuhusu silaha zinazojiendesha katika maeneo ya vita yenye watu wengi. Imejengwa kwa kutumia ushahidi kutoka kwa maafisa 24 wa ujasusi na wanajeshi wa Israel (wa sasa au wa zamani), filamu hiyo ilipokelewa kwa makofi ya kusimama ya dakika 25 huko Venice, ikisisitiza umakini mkubwa uliovutia duniani kote.

Jinsi filamu inavyosema AI ilivyoingia katika mzunguko wa uchaguzi wa malengo

Wakati mkurugenzi Yuval Abraham na Rachel Szor—washindi wa Oscar kutoka mradi uliopita—wanaelezea mnyororo wa zana za kidijitali ambazo, wanavyodai, hugeuza data ghafi kuwa mashambulizi ya kifo. Watu wa ndani wanasema mifumo ya AI huchuja picha za satelaiti, mitiririko ya droni, na mawasiliano ya simu yaliyokusanywa ili kuwatambua operatiba wa Hamas wenye "cheo cha chini." Kisha mfumo huo hutoa uratibu maalum, mara nyingi nyumba za makazi, kwa ajili ya shambulio la anga la usiku.

Wahojiwa wanaelezea operesheni ya ufuatiliaji sambamba inayohack simu za mkononi za watu binafsi ili kuwapata watu. Mwanajeshi mmoja anakumbuka kusikia mazungumzo ya faragha kati ya lengo na mwanafamilia wake dakika chache kabla ya makombora kurushwa. Filamu hiyo inadokeza kuwa, ingawa jeshi la Israel hadharani linasisitiza kuwa binadamu kila wakati "anabonyeza kitufe chekundu," matokeo ya kanuni (algorithms) yanaongoza sana maamuzi, na hivyo kugeuza data kuwa kichocheo cha uharibifu wa kiwango kikubwa.

NAZA inawasilishwa kama kifupi cha ndani cha Israel kwa vifo vya raia—wanaume, wanawake na watoto. Ili kulinda utambulisho wao, washiriki huonekana wakiwa na sauti na nyuso zilizobadilishwa kidijitali, lakini wanaelezea uharibifu wa kimfumo wa mitaa nzima, ikiwa ni pamoja na maeneo ya usambazaji wa chakula, na kuuawa kwa watu wasio wapiganaji walionaswa katika eneo la shambulio.

Kikosi cha siri na dai la “kuzuia amani”

Ushahidi mmoja unatokana na kikosi cha ujasusi cha siri kinachoripoti moja kwa moja kwa waziri mkuu. Mwanachama mmoja anadai kuwa dhamira ya wazi ya kikosi hicho ilikuwa "kuzuia amani," ikimaanisha malengo yanayovuka ushiriki wa kijeshi na kuwa mkakati mpana wa kuvuruga utulivu wa kikanda. Watengenezaji filamu wanakamata mfululizo wa hisia mbalimbali: baadhi ya wanajeshi wanazungumzia majuto makubwa, wakati wengine wanaonyesha kutojali kwa kutisha au hata fahari katika ufanisi wa mfumo huo.

Muktadha mpana wa mgogoro wa Gaza

Ukanda wa Gaza, wenye takriban watu milioni mbili, umekuwa ukipata mashambulizi makali kwa miezi kadhaa. Mashirika ya kibinadamu yamekuwa yakilaani mara kwa mara vifo vya raia. NAZA inaongeza tabaka jipya katika utata huo kwa kudai kuwa teknolojia inayowezesha mashambulizi ya haraka na sahihi pia inaongeza hatari ya madhara kwa raia wakati kanuni (algorithms) zinapowapa kipaumbele uondoaji wa malengo badala ya kupunguza madhara ya pembeni.

Filamu hii inakuja wakati jumuiya ya kimataifa ikihangaika na jinsi sheria zilizopo za migogoro ya silaha zinavyotumika kwa silaha zinazoendeshwa na AI. Umoja wa Mataifa na mashirika kadhaa ya NGO yameomba viwango vya wazi zaidi vya "human-in-the-loop" (binadamu kuwa sehemu ya mchakato wa maamuzi), wakionya kuwa kukabidhi maamuzi ya kifo kwa mashine kunapunguza uwajibikaji. Israel inadai kuwa kila shambulio linahitaji idhini ya mwisho ya binadamu, msimamo ambao filamu hiyo inautolea changamoto kwa kuangazia jukumu la mfumo wa AI katika uteuzi wa awali na upunguzaji wa malengo.

Nini madai haya yanamaanisha kwa India

• Uhuru wa kimkakati katika vita vya AI – India inaongeza kasi ya programu zake za ulinzi zinazotumia AI. Ufunuo wa NAZA unatoa mfano wa tahadhari, ukichochea watunga sera kuweka ulinzi thabiti wa "human-in-the-loop" kabla ya kuweka mifumo kama hiyo kazini.
• Uwiano wa kidiplomasia – Ushirikiano wa ulinzi wa New Delhi na Israel unabaki kuwa imara, lakini nchi hiyo pia inadumisha msimamo wa muda mrefu kuhusu haki za Wapalestina. Filamu hiyo inaongeza shinikizo kwa maafisa wa India kuoanisha vipaumbele hivi ambavyo wakati mwingine vinapingana katika mazungumzo ya nchi mbili na majukwaa ya kimataifa.
• Kuweka misingi ya kimataifa – Kama muuzaji mkuu wa teknolojia ya ulinzi, India inaweza kuitwa katika mijadala ya baadaye ya UN kuhusu udhibiti wa silaha za AI. Filamu hiyo inasisitiza uharaka wa kuunda sheria zinazozuia mifumo inayojiendesha kupita ulinzi uliowekwa kwa raia.

Hoja za upande wa pili na mipaka ya ushahidi

Maafisa wa Israel hawajapinga uwepo wa zana za AI lakini wanasisitiza kuwa ni msaada tu wa kusaidia maamuzi. Wanahoji kuwa kasi ya mapambano ya kisasa, hasa katika mazingira ya mijini ambapo wapiganaji hujichanganya na raia, inahitaji uchakataji wa haraka wa data ambao hakuna binadamu anayeweza kufanya bila msaada. Wanadai kuwa madai ya "human-in-the-loop" yanabaki na uwajibikaji wa kisheria na kimaadili kwa kamanda anayetoa idhini ya kila shambulio.

Wakosoaji wanabainisha kuwa washiriki wamefanywa wasijulikane majina yao na kwamba filamu hiyo haitoi kumbukumbu za utendaji au ukaguzi huru wa kiufundi. Bila uthibitisho huo, baadhi ya waangalizi wanatahadharisha dhidi ya kutoa hitimisho la uhakika kuhusu kiwango cha otomatiki au nia iliyoko nyuma ya mashambulizi fulani.

Cha kuangalia baadaye

• Uchunguzi – Vikundi vya haki za binadamu vimetangaza mipango ya kuomba ufikiaji wa kumbukumbu husika za kijeshi. Ikiwa Israel itaruhusu ukaguzi huo bado haijulikani.
• Changamoto za kisheria – Mahakama ya Kimataifa ya Jinai inaweza kufikiria ikiwa matumizi yanayodaiwa ya ulengaji unaoendeshwa na AI yanakiuka kanuni ya utofauti, inayowataka wapiganaji kutofautisha kati ya raia na wapiganaji.
• Majibu ya kisera – Mataifa yanayotengeneza silaha zinazotumia AI, ikiwemo India, yanatarajiwa kuunda vikao vya wataalamu ili kutathmini athari za kimaadili na kiutendaji zilizosisitizwa na NAZA.

NAZA inalazimisha kukabiliana na ukweli ambao hapo awali uliwahi kufikirika tu katika hadithi za kisayansi: teknolojia sasa iko katikati ya vita vya kila siku. Ikiwa madai ya filamu hiyo yatageuka kuwa mabadiliko ya kweli katika jinsi ulimwengu unavyodhibiti AI katika mapigano bado haijulikani, lakini mjadala uliouanzisha utaamua kanuni za mapigano kwa kizazi kijacho cha migogoro.