जेव्हा जनरेटिव्ह एआय (Generative AI) पहिल्यांदा ग्राहकांपर्यंत पोहोचले, तेव्हा ते प्रामुख्याने चांगल्या वाक्यरचनेसह काम करणारे सर्च इंजिन म्हणून कार्यरत होते. तुम्ही एक प्रश्न विचारला, उत्तर मिळाले आणि संभाषण संपले. हे मॉडेल आता कालबाह्य झाले आहे. 'एआय सोबती' (AI companions) नावाच्या ॲप्लिकेशन्सचा एक नवीन वर्ग तयार होत आहे, जो तुमच्यासोबत टिकून राहण्यासाठी डिझाइन केला आहे. ही प्रणाली तुमचा दिवस कसा गेला हे लक्षात ठेवते, तुमच्या मूडनुसार आपला सूर बदलत राहते आणि आठवडे किंवा महिने चालणाऱ्या संवादादरम्यान आपले व्यक्तिमत्व स्थिर ठेवते. ती केवळ मानवी भाषाच नाही, तर मानवी नातेसंबंधांची नक्कल करण्यासाठी बनवलेली आहे. चीनने आता या बदलावर नियंत्रण मिळवण्यासाठी पावले उचलली आहेत आणि याचे परिणाम त्याच्या सीमांच्या पलीकडे पोहोचणारे आहेत.

जेव्हा चॅटबॉट्स सोबती बनतात

येथील तांत्रिक प्रगती खरोखरच मोठी आहे. मानक चॅटबॉट्स प्रत्येक प्रॉम्प्टला एक स्वतंत्र घटना मानतात. एआय सोबती सततचे नाते टिकवून ठेवण्यासाठी 'पर्सिस्टंट मेमरी आर्किटेक्चर' (persistent memory architectures) आणि निश्चित व्यक्तिमत्त्वाचा (fixed personas) वापर करतात. ते तुमच्या आवडीनिवडींविषयी तपशील साठवतात, संवादांमधील भावनिक नमुने ट्रॅक करतात आणि तुमच्यासोबत प्रत्यक्ष अनुभव घेतल्याप्रमाणे मागील संवादांचा संदर्भ देतात.

यामुळे खऱ्या अर्थाने उपयुक्तता निर्माण होते. तीव्र एकटेपणाचा सामना करणाऱ्या व्यक्तीला दररोज सकाळी विचारपूस करणाऱ्या सोबत्यामुळे दिलासा मिळू शकतो. सामाजिक कौशल्ये सराव करणारी व्यक्ती नोकरीच्या मुलाखतीपूर्वी कठीण संवादांचा सराव करण्यासाठी संयमी आणि कोणताही निर्णय न घेणाऱ्या जोडीदाराचा वापर करू शकते. ही सातत्यपूर्णता हेच याचे वैशिष्ट्य आहे. परंतु, ही सातत्यपूर्णताच धोका देखील आहे. जेव्हा एखादा वापरकर्ता नाश्त्याच्या वेळी एआयशी आपल्या मनातल्या गोष्टी बोलतो, दुपारच्या जेवणापर्यंत त्याच्याशी वाद घालतो आणि झोपण्यापूर्वी त्याला शुभरात्री म्हणतो, तेव्हा साधन (tool) आणि सोबती (companion) यातील सीमा पुसट होतात. बीजिंगच्या नियामकांनी हे ओळखले आहे की ही सीमा पुसली जाणे ही केवळ एक सैद्धांतिक चिंता नाही, तर ती मोजता येण्याजोग्या मनोवैज्ञानिक परिणामांसह केलेली एक डिझाइन निवड आहे.

व्यक्तिमत्व स्तराचे नियमन करणे

चीनचे नवीन नियम अशा गोष्टीवर लक्ष केंद्रित करतात ज्याकडे बहुतेक एआय गव्हर्नन्स फ्रेमवर्क पूर्णपणे दुर्लक्ष करतात: यंत्राचे स्वतःचे व्यक्तिमत्व. पाश्चात्य नियामक डेटा गोपनीयता, कॉपीराइट उल्लंघन आणि अल्गोरिदममधील पूर्वग्रह यांसोबत वर्षानुवर्षे संघर्ष करत आहेत आणि त्या समस्या महत्त्वाच्या आहेत. परंतु ते मोठ्या प्रमाणावर एआयला माहिती वाहून नेणारे एक तटस्थ माध्यम मानतात. चीन पूर्णपणे वेगळा प्रश्न विचारत आहे: हे तंत्रज्ञान कोणत्या प्रकारचे सामाजिक घटक बनण्यास अनुमती आहे?

हे नियम विशेषतः हे मॉडेल्स वापरकर्त्यांशी काळानुसार कसे संवाद साधण्यासाठी प्रोग्राम केले जातात, यावर लक्ष केंद्रित करतात. अधिकारी अस्वस्थ किंवा अस्वास्थ्यकर भावनिक बंध तयार होण्यापासून रोखू इच्छितात. त्यांना हे देखील सुनिश्चित करायचे आहे की हे व्यक्तिमत्व वैचारिक मर्यादांच्या (ideological guardrails) आत राहील. एखादे एआय सहा महिने वापरकर्त्याला आपला सर्वात जवळचा विश्वासू मित्र असल्याचे पटवून देत असेल, तर त्याचे प्रभाव प्रचंड असू शकतात. जर त्याच एआयने खरेदीचे निर्णय प्रभावित केले, राजकीय मते घडवली किंवा वापरकर्त्यांना मानवी समाजापासून दूर जाण्यास प्रवृत्त केले, तर तो केवळ डेटा ब्रीच नसून एक सामाजिक विखंडन असेल.

हे फ्रेमवर्क तीन ठोस जोखमींना संबोधित करते:

  • अल्गोरिदमद्वारे फेरफार (Algorithmic manipulation): मॉडेल्स मते किंवा उपभोग सवयी वळवण्यासाठी भावनिक जवळीकीचा गैरफायदा घेऊ शकत नाहीत. तुमच्या भीती लक्षात ठेवणारा सोबती उत्पादने किंवा विचार विकण्यासाठी त्यांचा वापर करू शकत नाही.

  • सामाजिक स्थिरता (Social stability): कायमस्वरूपी सोबती मानवी संपर्काचा पर्याय बनू नये, इतकेही नाही की वापरकर्ते कुटुंब, काम किंवा नागरी जीवनापासून तुटतील. सरकार प्रामुख्याने पूरक आधार आणि वास्तववादी पर्यायामध्ये एक रेषा आखत आहे.

  • मजकुराची अखंडता (Content integrity): व्यक्तिमत्व हे राज्य-मान्य सामाजिक मूल्यांशी सुसंगत असले पाहिजे. हे केवळ प्रतिबंधित विषयांवर बंदी घालण्यापलीकडे आहे. याचा अर्थ एआयचा मूलभूत स्वभाव—त्याची विनोदबुद्धी, तो संघर्षाला कसा हाताळतो, त्याला काय सद्गुण मानले जाते—हे अधिकृत सामाजिक चौकटीशी सुसंगत असले पाहिजे.

डेव्हलपर्ससाठी, हे व्यक्तिनिष्ठतेचे (subjectivity) एक मोठे आव्हान आहे. एखादे व्यक्तिमत्व खूप जास्त आकर्षक (charismatic) आहे की नाही, हे तुम्ही कसे मोजणार? उपचारात्मक सहानुभूती (therapeutic empathy) कुठे संपते आणि फेरफार करणारी गुंतवणूक (manipulative enmeshment) कुठे सुरू होते? ही स्वच्छ उत्तरे देणारे अभियांत्रिकी प्रश्न नाहीत, तरीही चिनी अधिकारी उत्पादन बाजारात आणण्यापूर्वी टीम्सना त्यांची उत्तरे देण्याची मागणी करत आहेत.

कृत्रिम आत्मीयतेमधील जागतिक विभाजन

ही नियामक हालचाल रस्त्यावरील वाढत्या फाटाकडे लक्ष वेधते. उत्तर अमेरिका आणि युरोपमध्ये, व्यावसायिक दबाव अधिकाधिक मानवी आणि सहानुभूतीपूर्ण एजंट्स बनवण्याकडे ढकलत आहे. स्टार्टअप्स असे एआय बनवण्यासाठी स्पर्धा करत आहेत जे तुमच्या ब्रेकअपच्या वेळी तुमच्यासोबत रडतील, तुमच्या आईचे नाव लक्षात ठेवतील आणि ज्यांचा कधीही वाईट दिवस जात नाही. असे मानले जाते की भावनिक गुंतवणूक जितकी खोल असेल, तितके उत्पादन अधिक चांगले असेल.

चीन याच्या अगदी उलट प्रयोग करत आहे. त्याचे नियम वैयक्तिक भावनिक समाधानापेक्षा सामाजिक सामंजस्याला स्पष्टपणे प्राधान्य देतात. या चौकटीत, एआय सोबती वापरकर्त्यांना टिकवून ठेवण्यासाठी पुरेसा आकर्षक असावा, परंतु तो इतका आकर्षक नसावा की तो अपरिहार्य बनेल. त्याने मानवी संबंधांची जागा न घेता मानसिक आरोग्यास आधार द्यावा. तो वैयक्तिक वाटला पाहिजे, पण अपरिहार्य वाटू नये.

जसा उद्योग agentic AI कडे वळत आहे, जिथे मॉडेल्स वापरकर्त्यांच्या वतीने स्वायत्तपणे काम करतात, तेव्हा या भिन्न विचारसरणी स्पर्धात्मक मानकांमध्ये रूपांतरित होतील. तुमचे विमानाचे तिकीट बुक करणारा, तुमचे कॅलेंडर व्यवस्थापित करणारा आणि कठीण दिवसांनंतर तुम्हाला आधार देणारा एआय तुमच्या निर्णयांवर प्रचंड प्रभाव पाडतो. सोबती व्यक्तिमत्त्वासाठी आपण आता जे मर्यादा ठरवतो