NAZA എന്ന ഡോക്യുമെന്ററി പറയുന്നത് ഇസ്രായേൽ സൈന്യം ഗാസ യുദ്ധത്തിലെ ലക്ഷ്യങ്ങൾ നിശ്ചയിക്കുന്ന പ്രക്രിയയിൽ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) അൽഗോരിതങ്ങൾ ഉപയോഗിക്കുന്നു എന്നാണ്. ഇത് ജനസാന്ദ്രതയുള്ള യുദ്ധഭൂമികളിലെ സ്വയംപ്രവർത്തിത ആയുധങ്ങളെക്കുറിച്ചുള്ള (autonomous weapons) ആഗോള ചർച്ചകൾക്ക് വഴിയൊരുക്കുന്നു. നിലവിലുള്ളതോ മുൻപുള്ളതോ ആയ 24 ഇസ്രായേലി ഇന്റലിജൻസ് ഉദ്യോഗസ്ഥരുടെയും സൈനികരുടെയും മൊഴികളിൽ നിന്നാണ് ഈ ചിത്രം നിർമ്മിച്ചിരിക്കുന്നത്. വെനീസ് ചലച്ചിത്രമേളയിൽ 25 മിനിറ്റ് നീണ്ടുനിന്ന സ്റ്റാൻഡിംഗ് ഓവേഷനോടെയാണ് ഈ ചിത്രം പ്രദർശിപ്പിച്ചത്, ഇത് ഇതിന് ലഭിച്ച ആഗോള ശ്രദ്ധയെ അടിവരയിടുന്നു.
എങ്ങനെയെല്ലാമാണ് AI ലക്ഷ്യങ്ങൾ നിശ്ചയിക്കുന്ന പ്രക്രിയയിൽ കടന്നുവന്നതെന്ന് ചിത്രം പറയുന്നു
മുൻപ് ഒരു പ്രോജക്റ്റിലൂടെ ഓസ്കാർ ജേതാക്കളായ സംവിധായകർ യുവാൽ അബ്രഹാം, റേച്ചൽ ഷോർ എന്നിവർ, അസംസ്കൃത വിവരങ്ങളെ (raw data) മാരകമായ ആക്രമണങ്ങളാക്കി മാറ്റുന്ന ഡിജിറ്റൽ ഉപകരണങ്ങളുടെ ഒരു ശൃംഖല വിവരിക്കുന്നു. ഹമാസിന്റെ "താഴ്ന്ന റാങ്കിലുള്ള" പ്രവർത്തകരെ കണ്ടെത്താൻ AI മോഡലുകൾ സാറ്റലൈറ്റ് ചിത്രങ്ങളും ഡ്രോൺ ദൃശ്യങ്ങളും തടസ്സപ്പെടുത്തിയ മൊബൈൽ ട്രാഫിക്കും പരിശോധിക്കുന്നുവെന്ന് ഉള്ളറിവുള്ളവർ പറയുന്നു. തുടർന്ന് ഈ മോഡൽ രാത്രികാല വ്യോമാക്രമണങ്ങൾക്കായി വീടുകൾ ഉൾപ്പെടെയുള്ള കൃത്യമായ സ്ഥാനങ്ങൾ (coordinates) നൽകുന്നു.
വ്യക്തികളെ കണ്ടെത്താനായി വ്യക്തിഗത മൊബൈൽ ഫോണുകൾ ഹാക്ക് ചെയ്യുന്ന സമാന്തര നിരീക്ഷണ പ്രവർത്തനത്തെക്കുറിച്ചും അഭിമുഖം നൽകുന്നവർ വിവരിക്കുന്നു. ഒരു മിസൈൽ തൊടുക്കുന്നതിന് മിനിറ്റുകൾക്ക് മുമ്പ് ഒരു ലക്ഷ്യസ്ഥാനത്തുള്ള വ്യക്തിയും കുടുംബാംഗവും തമ്മിലുള്ള സ്വകാര്യ സംഭാഷണം കേട്ടതായി ഒരു സൈനികൻ വിവരിക്കുന്നു. ഇസ്രായേൽ സൈന്യം പരസ്യമായി പറയുന്നത് ഒരു മനുഷ്യൻ എപ്പോഴും "ചുവന്ന ബട്ടൺ അമർത്തുന്നു" എന്നാണ്, എന്നാൽ അൽഗോരിതങ്ങളുടെ ഫലങ്ങൾ തീരുമാനങ്ങളെ വളരെയധികം സ്വാധീനിക്കുന്നുവെന്നും ഇത് വിവരങ്ങളെ കൂട്ടക്കൊലയ്ക്കുള്ള ഒരു പ്രേരകമാക്കി മാറ്റുന്നുവെന്നും ചിത്രം സൂചിപ്പിക്കുന്നു.
സാധാരണക്കാരായ ആളുകളുടെ (പുരുഷന്മാർ, സ്ത്രീകൾ, കുട്ടികൾ) മരണത്തെ സൂചിപ്പിക്കാൻ ഇസ്രായേലിനുള്ളിലെ ഒരു ചുരുക്കപ്പേരായിട്ടാണ് NAZA ഉപയോഗിക്കുന്നത്. അവരുടെ വ്യക്തിത്വം സംരക്ഷിക്കുന്നതിനായി, പങ്കാളികൾ ഡിജിറ്റലായി മാറ്റം വരുത്തിയ ശബ്ദത്തിലും മുഖത്തിലും ആണ് പ്രത്യക്ഷപ്പെടുന്നത്. എങ്കിലും, ഭക്ഷണ വിതരണ കേന്ദ്രങ്ങൾ ഉൾപ്പെടെയുള്ള മുഴുവൻ അയൽപക്കങ്ങളും വ്യവസ്ഥാപിതമായി തകർക്കുന്നതിനെക്കുറിച്ചും ആക്രമണമേഖലയിൽ അകപ്പെട്ട അണിനിരക്കാത്തവരെ (non-combatants) കൊല്ലുന്നതിനെക്കുറിച്ചും അവർ വിവരിക്കുന്നു.
രഹസ്യ യൂണിറ്റും "സമാധാനം തടയുക" എന്ന അവകാശവാദവും
പ്രധാനമന്ത്രിക്ക് നേരിട്ട് റിപ്പോർട്ട് ചെയ്യുന്ന ഒരു രഹസ്യ ഇന്റലിജൻസ് യൂണിറ്റിൽ നിന്നാണ് ഒരു മൊഴി വരുന്നത്. ഈ യൂണിറ്റിന്റെ വ്യക്തമായ ദൗത്യം "സമാധാനം തടയുക" എന്നതായിരുന്നുവെന്ന് ഒരു അംഗം ആരോപിക്കുന്നു. ഇത് തന്ത്രപരമായ പോരാട്ടങ്ങൾക്കപ്പുറം പ്രാദേശികമായ അസ്ഥിരത സൃഷ്ടിക്കുക എന്ന വിശാലമായ തന്ത്രത്തെ സൂചിപ്പിക്കുന്നു. സംവിധായകർ വിവിധ തരത്തിലുള്ള പ്രതികരണങ്ങൾ ക്യാമറയിൽ പകർത്തുന്നു: ചില സൈനികർ കടുത്ത പശ്ചാത്താപം പ്രകടിപ്പിക്കുമ്പോൾ, മറ്റുചിലർ ഈ സംവിധാനത്തിന്റെ കാര്യക്ഷമതയിൽ തണുത്ത നിസ്സംഗതയോ അഭിമാനമോ പ്രകടിപ്പിക്കുന്നു.
ഗാസ സംഘർഷത്തിന്റെ വിശാലമായ പശ്ചാത്തലം
ഏകദേശം ഇരുപത് ലക്ഷം ആളുകൾ താമസിക്കുന്ന ഗാസ സ്ട്രിപ്പ് മാസങ്ങളായി കഠിനമായ ബോംബാക്രമണത്തിന് ഇരയാകുന്നു. സാധാരണക്കാരുടെ മരണത്തിൽ മാനുഷിക സംഘടനകൾ ആവർത്തിച്ച് അപലപിച്ചിട്ടുണ്ട്. ലക്ഷ്യങ്ങൾ വേഗത്തിലും കൃത്യമായും ആക്രമിക്കാൻ സഹായിക്കുന്ന സാങ്കേതികവിദ്യ, അൽഗോരിതങ്ങൾ പാർശ്വവൽക്കരിക്കപ്പെട്ട നാശനഷ്ടങ്ങളേക്കാൾ (collateral mitigation) ലക്ഷ്യങ്ങളെ ഇല്ലാതാക്കുന്നതിന് മുൻഗണന നൽകുമ്പോൾ സാധാരണക്കാർക്ക് അപകടമുണ്ടാക്കുന്നുവെന്ന് വാദിച്ചുകൊണ്ട് NAZA ഈ വിവാദത്തിന് പുതിയൊരു തലങ്ങൾ നൽകുന്നു.
ആയുധങ്ങളുമായി ബന്ധപ്പെട്ട നിലവിലുള്ള നിയമങ്ങൾ AI അധിഷ്ഠിത ആയുധങ്ങൾക്ക് എങ്ങനെ ബാധകമാകും എന്നതിനെക്കുറിച്ച് അന്താരാഷ്ട്ര സമൂഹം പോരാടിക്കൊണ്ടിരിക്കുമ്പോഴാണ് ഈ ചിത്രം പുറത്തിറങ്ങുന്നത്. മാരകമായ തീരുമാനങ്ങൾ യന്ത്രങ്ങളെ ഏൽപ്പിക്കുന്നത് ഉത്തരവാദിത്തം ഇല്ലാതാക്കുമെന്ന് മുന്നറിയിപ്പ് നൽകിക്കൊണ്ട് ഐക്യരാഷ്ട്രസഭയും നിരവധി എൻജിഒകളും കൂടുതൽ വ്യക്തമായ "human-in-the-loop" മാനദണ്ഡങ്ങൾ ആവശ്യപ്പെട്ടിട്ടുണ്ട്. ഓരോ ആക്രമണത്തിനും അന്തിമ മനുഷ്യ അനുമതി ആവശ്യമാണെന്ന് ഇസ്രായേൽ വാദിക്കുന്നുണ്ടെങ്കിലും, ലക്ഷ്യങ്ങൾ മുൻകൂട്ടി തിരഞ്ഞെടുക്കുന്നതിലും പരിമിതപ്പെടുത്തുന്നതിലും AI സംവിധാനത്തിന്റെ പങ്ക് ചൂണ്ടിക്കാട്ടിക്കൊണ്ട് ഡോക്യുമെന്ററി ആ നിലപാടിനെ ചോദ്യം ചെയ്യുന്നു.
ഈ ആരോപണങ്ങൾ ഇന്ത്യയെ സംബന്ധിച്ചിടത്തോളം അർത്ഥമാക്കുന്നത് എന്താണ്
- AI യുദ്ധത്തിലെ തന്ത്രപരമായ സ്വയംഭരണം – ഇന്ത്യ സ്വന്തം AI അധിഷ്ഠിത പ്രതിരോധ പരിപാടികൾ വേഗത്തിലാക്കുകയാണ്. NAZA വെളിപ്പെടുത്തലുകൾ ഒരു മുന്നറിയിപ്പ് നൽകുന്ന പഠനമായി മാറുന്നു, സമാനമായ സംവിധാനങ്ങൾ ഉപയോഗിക്കുന്നതിന് മുമ്പ് ശക്തമായ "human-in-the-loop" സുരക്ഷാ സംവിധാനങ്ങൾ നടപ്പിലാക്കാൻ ഇത് നയരൂപകർത്താക്കളെ പ്രേരിപ്പിക്കുന്നു.
- നയതന്ത്രപരമായ സന്തുലിതാവസ്ഥ – ഇസ്രായേലുമായുള്ള ഇന്ത്യയുടെ പ്രതിരോധ പങ്കാളിത്തം ശക്തമായി തുടരുന്നുണ്ടെങ്കിലും, ഫലസ്തീൻ അവകാശങ്ങളിൽ രാജ്യം നിലയുറപ്പിച്ചിട്ടുണ്ട്. ഉഭയകക്ഷി ചർച്ചകളിലും ബഹുരാഷ്ട്ര വേദികളിലും ഈ വൈരുദ്ധ്യങ്ങൾ പരിഹരിക്കാൻ ഇന്ത്യൻ ഉദ്യോഗസ്ഥർക്ക് ഈ ഡോക്യുമെന്ററി സമ്മർദ്ദം വർദ്ധിപ്പിക്കുന്നു.
- ആഗോള മാനദണ്ഡങ്ങൾ നിർണ്ണയിക്കൽ – പ്രതിരോധ സാങ്കേതികവിദ്യയുടെ പ്രധാന കയറ്റുമതിക്കാരൻ എന്ന നിലയിൽ, AI ആയുധ നിയന്ത്രണത്തെക്കുറിച്ചുള്ള ഭാവിയിലെ യുഎൻ ചർച്ചകളിൽ ഇന്ത്യയുടെ പങ്കാളിത്തം ആവശ്യമായി വരും. സ്വയംപ്രവർത്തിത സംവിധാനങ്ങൾ സാധാരണക്കാർക്കുള്ള സംരക്ഷണം മറികടക്കുന്നത് തടയാൻ നിയമങ്ങൾ രൂപീകരിക്കേണ്ടതിന്റെ അനിവാര്യത ഈ ചിത്രം അടിവരയിടുന്നു.
എതിർവാദങ്ങളും തെളിവുകളുടെ പരിമിതികളും
ഇസ്രായേൽ ഉദ്യോഗസ്ഥർ AI ഉപകരണങ്ങളുടെ സാന്നിധ്യം തള്ളിക്കളയുന്നില്ല, എന്നാൽ അവ കേവലം തീരുമാനങ്ങൾ എടുക്കാൻ സഹായിക്കുന്ന സംവിധാനങ്ങൾ (decision-support aids) മാത്രമാണെന്ന് അവർ ഊന്നിപ്പറയുന്നു. ആധുനിക യുദ്ധമുറകളുടെ വേഗത, പ്രത്യേകിച്ച് പോരാളികൾ സാധാരണക്കാർക്കിടയിൽ കലർന്നുനിൽക്കുന്ന നഗരപ്രദേശങ്ങളിൽ, ഒരു മനുഷ്യനും ഒറ്റയ്ക്ക് ചെയ്യാൻ കഴിയാത്ത വേഗത്തിലുള്ള ഡാറ്റാ പ്രോസസ്സിംഗ് ആവശ്യമാണെന്ന് അവർ വാദിക്കുന്നു. ഓരോ ആക്രമണത്തിനും അനുമതി നൽകുന്ന കമാൻഡർക്ക് നിയമപരവും ധാർമ്മികവുമായ ഉത്തരവാദിത്തം നൽകുന്ന രീതിയാണ് "human-in-the-loop" എന്ന അവകാശവാദം എന്ന് അവർ പറയുന്നു.
വിമർശകർ ചൂണ്ടിക്കാട്ടുന്നത് പങ്കാളികളുടെ പേര് വെളിപ്പെടുത്തിയിട്ടില്ലെന്നും സിനിമ പ്രവർത്തന രേഖകളോ സ്വതന്ത്ര സാങ്കേതിക ഓഡിറ്റുകളോ അവതരിപ്പിക്കുന്നില്ലെന്നുമാണ്. ഇത്തരത്തിലുള്ള സ്ഥിരീകരണങ്ങളില്ലാതെ, ഓട്ടോമേഷന്റെ വ്യാപ്തിയെക്കുറിച്ചോ പ്രത്യേക ആക്രമണങ്ങൾക്ക് പിന്നിലെ ഉദ്ദേശ്യത്തെക്കുറിച്ചോ കൃത്യമായ നിഗമനങ്ങളിൽ എത്തരുതെന്ന് ചില നിരീക്ഷകർ മുന്നറിയിപ്പ് നൽകുന്നു.
ഇനി ശ്രദ്ധിക്കേണ്ടവ
- അന്വേഷണങ്ങൾ – ബന്ധപ്പെട്ട സൈനിക രേഖകൾ ലഭ്യമാക്കണമെന്ന് ആവശ്യപ്പെടാൻ മനുഷ്യാവകാശ ഗ്രൂപ്പുകൾ പദ്ധതി പ്രഖ്യാപിച്ചിട്ടുണ്ട്. ഇസ്രായേൽ ഇത്തരത്തിലുള്ള പരിശോധന അനുവദിക്കുമോ എന്നത് അനിശ്ചിതത്വത്തിലാണ്.
- നിയമപരമായ വെല്ലുവിളികൾ – സിവിലിയന്മാരെയും പോരാളികളെയും വേർതിരിച്ചറിയാൻ പോരാളികൾ ബാധ്യസ്ഥരാണെന്ന 'ഡിസ്റ്റින්ക്ഷൻ' (distinction) എന്ന തത്വത്തിന്റെ ലംഘനമാണോ AI ഉപയോഗിച്ചുള്ള ലക്ഷ്യമിടൽ (targeting) എന്ന് അന്താരാഷ്ട്ര ക്രിമിനൽ കോടതി പരിഗണിക്കக்கூടുന്നു.
- നയപരമായ പ്രതികരണങ്ങൾ – NAZA ഉയർത്തുന്ന ധാർമ്മികവും പ്രവർത്തനപരവുമായ പ്രത്യാഘാതങ്ങൾ വിലയിരുത്തുന്നതിനായി ഇന്ത്യയുൾപ്പെടെയുള്ള AI ആയുധങ്ങൾ വികസിപ്പിക്കുന്ന രാജ്യങ്ങൾ വിദഗ്ധ സമിതികളെ വിളിച്ചുകൂട്ടുമെന്ന് പ്രതീക്ഷിക്കുന്നു.
NAZA ശാസ്ത്രകഥകളിൽ മാത്രം സങ്കൽപ്പിക്കാറുള്ള ഒരു യാഥാർത്ഥ്യത്തെ നേരിടാൻ നമ്മെ നിർബന്ധിക്കുന്നു: സാങ്കേതികവിദ്യ ഇപ്പോൾ ദൈനംദിന യുദ്ധത്തിന്റെ കേന്ദ്രബിന്ദുവാണ്. യുദ്ധക്കളത്തിൽ AI എങ്ങനെ നിയന്ത്രിക്കണം എന്നതിനെക്കുറിച്ചുള്ള ലോകത്തിന്റെ നിലപാടുകളിൽ ഈ സിനിമയുടെ അവകാശവാദങ്ങൾ പ്രായോഗികമായ മാറ്റങ്ങൾ വരുത്തുമോ എന്നത് അജ്ഞാതമാണ്, എങ്കിലും ഇത് ജനിപ്പിച്ച സംവാദം വരുംതലമുറയിലെ യുദ്ധനിയമങ്ങളെ രൂപപ്പെടുത്തും.