अमेरिकेच्या परराष्ट्र विभागाने (U.S. State Department) ब्राझीलमधील एका राजनैतिक परिषदेत एक AI-निर्मित नकाशा प्रदर्शित केला, ज्यामध्ये अनेक आफ्रिकन राष्ट्रांची चुकीची माहिती दिली होती. ही चूक, AI च्या "hallucination" (भ्रम) चे एक उत्तम उदाहरण आहे, ज्याने एका तांत्रिक त्रुटीचे रूपांतर राजनैतिक विश्वासार्हतेच्या प्रश्नात केले.

उघडपणे घडलेली ही चूक

एका उच्चस्तरीय बैठकीदरम्यान, परराष्ट्र विभागाच्या एका अधिकाऱ्याने अशा एका स्लाइडचा वापर केला, ज्याचे नकाशे पूर्णपणे जनरेटिव्ह-AI (generative-AI) साधनावर आधारित होते. त्या प्रतिमेमध्ये अनेक आफ्रिकन राष्ट्रांची चुकीची नावे दिली होती. या घटनेतून हे दिसून आले की, एक चुकीचा ग्राफिक देखील अशा संस्थेची प्रतिष्ठा कमी करू शकतो, जिचे काम जगातील अत्यंत संवेदनशील राजकीय परिस्थिती हाताळणे आहे.

नकाशे हे केवळ चित्रे नसून त्यापेक्षा अधिक आहेत

राजनैतिक व्यवहारात, नकाशे हे 'व्हिज्युअल कॉन्ट्रॅक्ट्स' (दृश्य करार) म्हणून काम करतात. कागदावर आखलेल्या सीमा सार्वभौमत्वाची मान्यता दर्शवतात, अधिकारक्षेत्र निश्चित करतात आणि अनेकदा ऐतिहासिक करारांचे महत्त्व जपतात. जेव्हा एखादा नकाशा एखाद्या राष्ट्राच्या भूभागाचे चुकीचे चित्रण करतो, तेव्हा निरीक्षक ती चूक केवळ एक साधी टायपिंगची चूक न मानता, आदराचा अभाव म्हणून पाहतात.

पिक्सेलच्या मागे दडलेला पूर्वग्रह

बहुतेक मोठ्या लँग्वेज मॉडेल्स (large language models) आणि इमेज जनरेटर्सना सार्वजनिक इंटरनेटवरून गोळा केलेल्या डेटावर प्रशिक्षित केले जाते. हे डेटासेट पाश्चात्य-केंद्रित स्रोतांना अधिक महत्त्व देतात आणि ज्या क्षेत्रांचे कमी प्रमाणात चित्रण होते, त्या भागांकडे अनेकदा दुर्लक्ष करतात किंवा त्यांचे सुलभीकरण करतात. याचा परिणाम म्हणजे 'ग्लोबल साऊथ'च्या (Global South) अनेक भागांसाठी एक पद्धतशीर अंधत्व निर्माण होते. जेव्हा परराष्ट्र विभागाच्या AI टूलने तो दोषपूर्ण नकाशा तयार केला, तेव्हा ते कोणत्याही जाणीवपूर्वक धोरणात्मक निर्णयाचे नव्हे, तर त्या डेटातील त्रुटीचे प्रतिबिंब होते. ही घटना एका व्यापक डिजिटल-सार्वभौमत्व (digital-sovereignty) प्रश्नावर प्रकाश टाकते: परदेशी मूळ असलेल्या AI वर अवलंबून राहिल्यामुळे निर्मात्यांचे पूर्वग्रह पुन्हा निर्माण होऊ शकतात.

Human-in-the-loop: गहाळ झालेली सुरक्षा यंत्रणा

सर्वात सोपा उपाय म्हणजे, कोणताही AI-निर्मित व्हिज्युअल सार्वजनिक करण्यापूर्वी विषयतज्ज्ञांकडून त्याची अनिवार्य तपासणी करणे. "Human-in-the-loop" चेकपॉइंटमुळे नकाशाकार, प्रादेशिक विश्लेषक किंवा वरिष्ठ मुत्सद्दीला आउटपुट स्वीकारार्ह मानकांनुसार आहे की नाही याची खात्री करणे बंधनकारक होते. हा प्रोटोकॉल AI च्या सुलभतेला कमी करत नाही; तो केवळ हे सुनिश्चित करतो की तंत्रज्ञानावरील विश्वासामुळे प्रक्रियेवरील विश्वास कमी होऊ नये.

या घटनेचा भारत आणि इतर उदयोन्मुख शक्तींसाठी अर्थ

भारत, जो वेगाने आपल्या डिजिटल सार्वजनिक पायाभूत सुविधांचा विस्तार करत आहे आणि जागतिक AI क्षेत्रात स्वतःला एक नेता म्हणून प्रस्थापित करत आहे, तो यातून अनेक ठोस धडे घेऊ शकतो:

  • सार्वभौम AI विकासाला प्राधान्य द्या. स्वदेशी मॉडेल्स आणि डेटासेट तयार केल्यामुळे बाह्य पूर्वग्रह असलेले साधनांवरील अवलंबित्व कमी होते.
  • पडताळणी आराखडे (verification frameworks) लागू करा. कोणताही AI-सहाय्यित राजनैतिक मजकूर सार्वजनिक करण्यापूर्वी एका समर्पित पुनरावलोकन प्रक्रियेतून जाणे आवश्यक आहे.
  • नैतिक मानकांचा पुरस्कार करा. प्रशासनात वापरल्या जाणाऱ्या AI च्या "अचूकता ऑडिट" (accuracy audits) साठी आंतरराष्ट्रीय मानकांची मागणी करून, भारत 'ग्लोबल साऊथ'च्या हिताचे रक्षण करणारा नियमसंग्रह तयार करू शकतो.

ही पावले राष्ट्रीय प्रतिष्ठा सुरक्षित ठेवतात आणि अधिक न्याय्य डिजिटल भविष्यासाठी योगदान देतात, जिथे तंत्रज्ञान विविध दृष्टिकोनांचे प्रतिनिधित्व करेल.

भविष्याचा वेध

निष्कर्ष (Takeaway): AI राजनैतिक कामे वेगवान करू शकते, परंतु अनिवार्य 'human-in-the-loop' चेकपॉइंटशिवाय, एक चुकीचा ग्राफिक विश्वासार्हता खराब करू शकतो, भू-राजकीय तणाव वाढवू शकतो आणि तंत्रज्ञानात अंतर्भूत असलेले पूर्वग्रह उघड करू शकतो. पुढे जाण्याचा सर्वात सुरक्षित मार्ग म्हणजे AI ला एक शक्तिशाली सहाय्यक म्हणून पाहणे—तज्ज्ञांच्या निर्णयाचा पर्याय म्हणून नाही.