યુએસ સ્ટેટ ડિપાર્ટમેન્ટે બ્રાઝિલમાં એક રાજદ્વારી પરિષદમાં AI-જનરેટેડ નકશો પ્રદર્શિત કર્યો હતો જેમાં કેટલાક આફ્રિકન દેશોનું ખોટું નામ દર્શાવવામાં આવ્યું હતું. આ ભૂલ, જે AI “hallucination” (ભ્રમ) નું એક આદર્શ ઉદાહરણ છે, તેણે એક ટેકનિકલ ભૂલને રાજદ્વારી વિશ્વસનીયતાના પ્રશ્નમાં ફેરવી દીધી.

ખુલ્લી આંખે દેખાતી આ ભૂલ

એક ઉચ્ચ સ્તરીય બેઠક દરમિયાન, સ્ટેટ ડિપાર્ટમેન્ટના એક અધિકારીએ એક સ્લાઇડનો ઉપયોગ કર્યો હતો જે તેના નકશા બનાવવા માટે સંપૂર્ણપણે જનરેટિવ-AI સાધન પર આધારિત હતી. આ છબીમાં કેટલાક આફ્રિકન દેશોના નામ ખોટા દર્શાવવામાં આવ્યા હતા. આ ઘટના દર્શાવે છે કે કેવી રીતે એક ક્ષતિગ્રસ્ત ગ્રાફિક એજન્સીની સત્તાને નબળી પાડી શકે છે, જેનું કામ વિશ્વના સૌથી નાજુક રાજકીય ક્ષેત્રોમાં માર્ગદર્શન આપવાનું છે.

નકશા માત્ર ચિત્રો કરતાં વધુ છે

રાજદ્વારી પ્રથાઓમાં, નકશા દ્રશ્ય કરારો (visual contracts) તરીકે કામ કરે છે. પેજ પર દોરેલી સીમાઓ સાર્વભૌમત્વની માન્યતા સૂચવે છે, અધિકારક્ષેત્ર નક્કી કરે છે અને ઘણીવાર ઐતિહાસિક કરારોનું મહત્વ ધરાવે છે. જ્યારે નકશો કોઈ રાષ્ટ્રના પ્રદેશનું ખોટું નિરૂપણ કરે છે, ત્યારે અવલોકનકારો તેને માત્ર એક સામાન્ય ટાઈપો (ભૂલ) તરીકે નહીં, પરંતુ અપમાન તરીકે જુએ છે.

પિક્સેલ્સ પાછળનો છુપાયેલો પક્ષપાત

મોટાભાગના લાર્જ લેંગ્વેજ મોડલ્સ અને ઇમેજ જનરેટર્સ પબ્લિક ઇન્ટરનેટ પરથી મેળવેલા ડેટા પર તાલીમ પામે છે. આ ડેટાસેટ્સ પશ્ચિમી-કેન્દ્રિત સ્ત્રોતોનું વધુ પડતું પ્રતિનિધિત્વ કરે છે અને ઘણીવાર એવા પ્રદેશોને અવગણે છે અથવા તેને સરળ બનાવે છે જેમને ઓછું કવરેજ મળે છે. પરિણામે, ગ્લોબલ સાઉથના ઘણા ભાગો માટે એક પદ્ધતિસરનો અંધપોઇન્ટ (blind spot) સર્જાય છે. જ્યારે સ્ટેટ ડિપાર્ટમેન્ટના AI સાધને ક્ષતિગ્રસ્ત નકશો બનાવ્યો, ત્યારે તે કોઈ સભાન નીતિગત પસંદગીને બદલે તે ડેટા ગેપ (ડેટાની અછત) ને પ્રતિબિંબિત કરતો હતો. આ ઘટના ડિજિટલ-સાર્વભૌમત્વના વ્યાપક મુદ્દાને ઉજાગર કરે છે: વિદેશી મૂળના AI પર નિર્ભરતા તેના નિર્માતાઓના પક્ષપાતને ફરીથી પેદા કરી શકે છે.

Human-in-the-loop: ખૂટતું સુરક્ષા કવચ

સૌથી સરળ ઉપાય એ છે કે કોઈપણ AI-જનરેટેડ વિઝ્યુઅલ જાહેર કરવામાં આવે તે પહેલાં વિષય નિષ્ણાતો દ્વારા ફરજિયાત સમીક્ષા કરવામાં આવે. “human-in-the-loop” ચેકપોઈન્ટ નકશાકાર, પ્રાદેશિક વિશ્લેષક અથવા વરિષ્ઠ રાજદ્વારીને એ ચકાસવા માટે મજબૂર કરે છે કે આઉટપુટ સ્વીકૃત ધોરણો સાથે મેળ ખાય છે. આ પ્રોટોકોલ AI ની સુવિધાને નાબૂદ કરતો નથી; તે ફક્ત એ સુનિશ્ચિત કરે છે કે ટેકનોલોજીમાં વિશ્વાસ એ પ્રક્રિયામાં વિશ્વાસનું સ્થાન ન લઈ લે.

આ ઘટના ભારત અને અન્ય ઉભરતી શક્તિઓ માટે શું અર્થ ધરાવે છે

ભારત, જે તેના ડિજિટલ પબ્લિક ઇન્ફ્રાસ્ટ્રક્ચરનો ઝડપથી વિસ્તાર કરી રહ્યું છે અને વૈશ્વિક AI ક્ષેત્રે પોતાને નેતા તરીકે સ્થાપિત કરી રહ્યું છે, તેમાંથી કેટલાક નક્કર પાઠ શીખી શકે છે:

  • સાર્વભૌમ AI વિકાસને પ્રાથમિકતા આપો. સ્વદેશી મોડલ્સ અને ડેટાસેટ્સ બનાવવાથી એવા સાધનો પરની નિર્ભરતા ઘટે છે જે બાહ્ય પક્ષપાત ધરાવી શકે છે.
  • વેરિફિકેશન ફ્રેમવર્ક દાખલ કરો. કોઈપણ AI-સહાયિત રાજદ્વારી સામગ્રી જાહેર કરવામાં આવે તે પહેલાં સમર્પિત સમીક્ષા સ્તરમાંથી પસાર થવી જોઈએ.
  • નૈતિક ધોરણોનું સમર્થન કરો. શાસનમાં વપરાતા AI ના “accuracy audits” (ચોકસાઈના ઓડિટ) ની જરૂર હોય તેવા આંતરરાષ્ટ્રીય ધોરણો માટે દબાણ કરીને, ભારત એવા નિયમો બનાવી શકે છે જે ગ્લોબલ સાઉથના હિતોનું રક્ષણ કરે છે.

આ પગલાં રાષ્ટ્રીય પ્રતિષ્ઠાનું રક્ષણ કરે છે અને વધુ સમાન ડિજિટલ ભવિષ્યમાં યોગદાન આપે છે જ્યાં ટેકનોલોજી વિવિધ દ્રષ્ટિકોણના વ્યાપક વ્યાપને પ્રતિબિંબિત કરે છે.

ભવિષ્ય તરફ જોતા

મુખ્ય બોધપાઠ: AI રાજદ્વારી કામગીરીને વેગ આપી શકે છે, પરંતુ ફરજિયાત human-in-the-loop ચેકપોઈન્ટ વિના, એક ક્ષતિગ્રસ્ત ગ્રાફિક વિશ્વસનીયતાને નુકસાન પહોંચાડી શકે છે, ભૌગોલિક રાજકીય તણાવ વધારી શકે છે અને ટેકનોલોજીમાં રહેલા પક્ષપાતને ખુલ્લો પાડી શકે છે. આગળ વધવાનો સૌથી સુરક્ષિત માર્ગ એ છે કે AI ને એક શક્તિશાળી સહાયક તરીકે ગણવામાં આવે—નિષ્ણાતના નિર્ણયના વિકલ્પ તરીકે નહીં.