ബ്രസീലിൽ നടന്ന ഒരു നയതന്ത്ര സമ്മേളനത്തിൽ, യുഎസ് സ്റ്റേറ്റ് ഡിപ്പാർട്ട്മെന്റ് പ്രദർശിപ്പിച്ച ഒരു AI നിർമ്മിത ഭൂപടം പല ആഫ്രിക്കൻ രാജ്യങ്ങളെയും തെറ്റായി അടയാളപ്പെടുത്തിയിരുന്നു. ഒരു AI "ഹാലൂസിനേഷൻ" (hallucination) എന്നതിന്റെ കൃത്യമായ ഉദാഹരണമായ ഈ പിശക്, ഒരു സാങ്കേതിക പിഴവിനെ നയതന്ത്ര വിശ്വാസ്യതയുടെ ചോദ്യമായി മാറ്റി.
പരസ്യമായ പിശക്
ഒരു ഉന്നതതല യോഗത്തിനിടെ, സ്റ്റേറ്റ് ഡിപ്പാർട്ട്മെന്റിലെ ഒരു ഉദ്യോഗസ്ഥൻ ഭൂപട നിർമ്മാണത്തിനായി പൂർണ്ണമായും ഒരു ജനറേറ്റീവ്-AI ടൂളിനെ ആശ്രയിച്ചുള്ള ഒരു സ്ലൈഡ് ഉപയോഗിച്ചു. ഈ ചിത്രം പല ആഫ്രിക്കൻ രാജ്യങ്ങളെയും തെറ്റായി അടയാളപ്പെടുത്തിയിരുന്നു. ലോകത്തിലെ ഏറ്റവും സങ്കീർണ്ണമായ രാഷ്ട്രീയ സാഹചര്യങ്ങളെ കൈകാര്യം ചെയ്യേണ്ട ഒരു ഏജൻസിയുടെ അധികാരാവകാശത്തെ ഒരു തെറ്റായ ഗ്രാഫിക് എങ്ങനെ തകർക്കാൻ കഴിയുമെന്ന് ഈ സംഭവം കാണിച്ചുതന്നു.
ഭൂപടങ്ങൾ വെറും ചിത്രങ്ങളല്ല
നയതന്ത്രപരമായ പ്രവർത്തനങ്ങളിൽ, ഭൂപടങ്ങൾ ദൃശ്യരൂപത്തിലുള്ള കരാറുകളായി പ്രവർത്തിക്കുന്നു. ഒരു പേജിൽ വരച്ചിരിക്കുന്ന അതിർത്തികൾ പരമാധികാരത്തിന്റെ അംഗീകാരത്തെ സൂചിപ്പിക്കുന്നു, അധികാരപരിധി നിശ്ചയിക്കുന്നു, പലപ്പോഴും ചരിത്രപരമായ കരാറുകളുടെ പ്രാധാന്യം വഹിക്കുന്നു. ഒരു ഭൂപടം ഒരു രാജ്യത്തിന്റെ ഭൂപ്രദേശത്തെ തെറ്റായി ചിത്രീകരിക്കുമ്പോൾ, നിരീക്ഷകർ അതിനെ ഒരു നിസ്സാരമായ അക്ഷരത്തെറ്റായിട്ടല്ല, മറിച്ച് ബഹുമാനക്കുറവായിട്ടാണ് കാണുന്നത്.
പിക്സലുകൾക്ക് പിന്നിലെ മറഞ്ഞിരിക്കുന്ന പക്ഷപാതം
മിക്ക ലാർജ് ലാംഗ്വേജ് മോഡലുകളും (Large Language Models) ഇമേജ് ജനറേറ്ററുകളും പൊതു ഇന്റർനെറ്റിൽ നിന്ന് ശേഖരിച്ച ഡാറ്റ ഉപയോഗിച്ചാണ് പരിശീലിപ്പിക്കപ്പെടുന്നത്. ഈ ഡാറ്റാസെറ്റുകൾ പാശ്ചാത്യ കേന്ദ്രീകൃത സ്രോതസ്സുകൾക്ക് അമിത പ്രാധാന്യം നൽകുകയും, കുറഞ്ഞ വാർത്താ പ്രാധാന്യമുള്ള പ്രദേശങ്ങളെ ഒഴിവാക്കുകയോ ലഘൂകരിക്കുകയോ ചെയ്യുന്നു. ഇതിന്റെ ഫലമായി ഗ്ലോബൽ സൗത്തിലെ (Global South) പല ഭാഗങ്ങളും വ്യവസ്ഥാപിതമായി അവഗണിക്കപ്പെടുന്നു. സ്റ്റേറ്റ് ഡിപ്പാർട്ട്മെന്റിന്റെ AI ടൂൾ തെറ്റായ ഭൂപടം നിർമ്മിച്ചപ്പോൾ, അത് ബോധപൂർവ്വമായ ഒരു നയപരമായ തീരുമാനത്തേക്കാൾ ഉപരിയായി ആ ഡാറ്റയിലെ വിടവുകളെയാണ് പ്രതിഫലിപ്പിച്ചത്. വിദേശങ്ങളിൽ നിന്നുള്ള AI സാങ്കേതികവിദ്യകളെ ആശ്രയിക്കുന്നത് അതിന്റെ സ്രഷ്ടാക്കളുടെ പക്ഷപാതങ്ങൾ വീണ്ടും സൃഷ്ടിക്കാൻ കാരണമായേക്കാം എന്ന വിപുലമായ ഡിജിറ്റൽ പരമാധികാര പ്രശ്നത്തെ ഈ സംഭവം എടുത്തുകാണിക്കുന്നു.
ഹ്യൂമൻ-ഇൻ-ദി-ലൂപ്പ്: വിട്ടുപോയ സുരക്ഷാ കവചം
AI നിർമ്മിത ദൃശ്യങ്ങൾ പൊതുജനങ്ങൾക്ക് മുന്നിലെത്തുന്നതിന് മുമ്പ് വിഷയവിദഗ്ധർ നിർബന്ധമായും അവ പരിശോധിക്കുക എന്നതാണ് ഏറ്റവും ലളിതമായ പരിഹാരം. ഒരു “human-in-the-loop” ചെക്ക്പോയിന്റ് വഴി ഒരു ഭൂപട നിർമ്മാതാവിനോ, പ്രാദേശിക വിശകലന വിദഗ്ധനോ അല്ലെങ്കിൽ മുതിർന്ന നയതന്ത്രജ്ഞനോ ഔട്ട്പുട്ട് അംഗീകൃത മാനദണ്ഡങ്ങൾ പാലിക്കുന്നുണ്ടോ എന്ന് പരിശോധിക്കുന്നു. ഈ നടപടിക്രമം AI നൽകുന്ന സൗകര്യങ്ങളെ ഇല്ലാതാക്കുന്നില്ല; മറിച്ച് സാങ്കേതികവിദ്യയിലുള്ള വിശ്വാസം പ്രക്രിയയിലുള്ള വിശ്വാസത്തിന് പകരമാകാതിരിക്കാൻ ഇത് സഹായിക്കുന്നു.
ഈ സംഭവം ഇന്ത്യയ്ക്കും മറ്റ് വളർന്നുവരുന്ന ശക്തികൾക്കും നൽകുന്ന പാഠം
ഡിജിറ്റൽ പബ്ലിക് ഇൻഫ്രാസ്ട്രക്ചർ അതിവേഗം വികസിപ്പിക്കുകയും ആഗോള AI രംഗത്ത് ഒരു നേതാവായി സ്വയം അടയാളപ്പെടുത്തുകയും ചെയ്യുന്ന ഇന്ത്യയ്ക്ക് ഇതിൽ നിന്ന് ചില പ്രായോഗിക പാഠങ്ങൾ ഉൾക്കൊള്ളാൻ കഴിയും:
- പരമാധികാര AI വികസനത്തിന് മുൻഗണന നൽകുക. സ്വന്തമായി നിർമ്മിച്ച മോഡലുകളും ഡാറ്റാസെറ്റുകളും ഉപയോഗിക്കുന്നത് ബാഹ്യമായ പക്ഷപാതങ്ങൾ ഉൾക്കൊള്ളാൻ സാധ്യതയുള്ള ടൂളുകളെ ആശ്രയിക്കുന്നത് കുറയ്ക്കും.
- പരിശോധനാ സംവിധാനങ്ങൾ ഏർപ്പെടുത്തുക. AI സഹായത്തോടെ തയ്യാറാക്കുന്ന ഏതൊരു നയതന്ത്ര രേഖയും പൊതുവായി പുറത്തിറക്കുന്നതിന് മുമ്പ് പ്രത്യേക പരിശോധനാ ഘട്ടത്തിലൂടെ കടന്നുപോകണം.
- ധാർമ്മിക മാനദണ്ഡങ്ങൾക്കായി നിലകൊള്ളുക. ഭരണനിർവ്വഹണത്തിൽ ഉപയോഗിക്കുന്ന AI-യുടെ “accuracy audits” ആവശ്യപ്പെടുന്ന അന്താരാഷ്ട്ര മാനദണ്ഡങ്ങൾക്കായി വാദിക്കുന്നതിലൂടെ, ഗ്ലോബൽ സൗത്തിലെ താൽപ്പര്യങ്ങൾ സംരക്ഷിക്കുന്ന ഒരു ചട്ടക്കൂട് രൂപപ്പെടുത്താൻ ഇന്ത്യയ്ക്ക് സാധിക്കും.
ഈ നടപടികൾ രാജ്യത്തിന്റെ സൽപ്പേര് സംരക്ഷിക്കുകയും സാങ്കേതികവിദ്യ കൂടുതൽ വൈവിധ്യമാർന്ന കാഴ്ചപ്പാടുകളെ പ്രതിഫലിപ്പിക്കുന്ന കൂടുതൽ സമത്വപൂർണ്ണമായ ഒരു ഡിജിറ്റൽ ഭാവിക്ക് സംഭാവന നൽകുകയും ചെയ്യുന്നു.
ഭാവിയിലേക്ക്
ചുരുക്കത്തിൽ: AI നയതന്ത്ര പ്രവർത്തനങ്ങളെ വേഗത്തിലാക്കിയേക്കാം, എന്നാൽ നിർബന്ധമായും ഒരു human-in-the-loop പരിശോധന ഇല്ലെങ്കിൽ, ഒരു തെറ്റായ ചിത്രം പോലും വിശ്വാസ്യതയെ തകർക്കാനും ഭൗമരാഷ്ട്രീയ സംഘർഷങ്ങൾ വർദ്ധിപ്പിക്കാനും സാങ്കേതികവിദ്യയിൽ അന്തർലീനമായ പക്ഷപാതങ്ങൾ വെളിപ്പെടുത്താനും കാരണമാകും. AI-യെ വിദഗ്ധരുടെ തീരുമാനങ്ങൾക്ക് പകരക്കാരനായല്ല, മറിച്ച് ശക്തമായ ഒരു സഹായിയായി മാത്രം കാണുന്നതാണ് ഏറ്റവും സുരക്ഷിതമായ മാർഗ്ഗം.