जब जनरेटिव एआई (Generative AI) पहली बार उपभोक्ताओं तक पहुँचा, तो यह मुख्य रूप से बेहतर वाक्य संरचना वाले सर्च इंजन के रूप में कार्य करता था। आप एक प्रश्न पूछते थे, उत्तर प्राप्त करते थे, और बातचीत खत्म हो जाती थी। वह मॉडल अब पुराना हो चुका है। अनुप्रयोगों का एक नया वर्ग—AI कंपैनियन (AI companions)—लंबे समय तक साथ रहने के लिए डिज़ाइन किया गया है। ये सिस्टम याद रखते हैं कि आपका दिन कैसा बीता, आपके मूड के अनुसार अपना लहजा बदलते हैं, और हफ्तों या महीनों के संवाद के दौरान एक सुसंगत चरित्र बनाए रखते हैं। उन्हें न केवल मानवीय भाषा, बल्कि मानवीय रिश्तों की नकल करने के लिए बनाया गया है। चीन ने अब इस बदलाव को विनियमित (regulate) करने के लिए कदम उठाया है, और इसके प्रभाव उसकी अपनी सीमाओं से कहीं अधिक दूर तक जाते हैं।

जब चैटबॉट्स कंपैनियन बन जाते हैं

यहाँ तकनीकी छलांग वास्तविक है। मानक चैटबॉट्स प्रत्येक प्रॉम्प्ट को एक अलग घटना के रूप में देखते हैं। AI कंपैनियन निरंतर संबंधों को बनाए रखने के लिए 'परसिस्टेंट मेमोरी आर्किटेक्चर' (persistent memory architectures) और निश्चित व्यक्तित्व (fixed personas) का उपयोग करते हैं। वे आपकी पसंद के बारे में विवरण संग्रहीत करते हैं, बातचीत के दौरान भावनात्मक पैटर्न को ट्रैक करते हैं, और पिछले संवादों का संदर्भ ऐसे देते हैं जैसे उन्होंने वास्तव में उन्हें आपके साथ जिया हो।

यह वास्तविक उपयोगिता पैदा करता है। पुराने अकेलेपन से जूझ रहा कोई व्यक्ति ऐसे कंपैनियन में राहत पा सकता है जो हर सुबह उसका हाल-चाल पूछता हो। सामाजिक कौशल का अभ्यास करने वाला व्यक्ति नौकरी के साक्षात्कार से पहले कठिन बातचीत का अभ्यास करने के लिए एक धैर्यवान, गैर-निर्णयात्मक (non-judgmental) साथी का उपयोग कर सकता है। निरंतरता ही इसकी विशेषता है। लेकिन निरंतरता ही जोखिम भी है। जब कोई उपयोगकर्ता नाश्ते के समय AI से अपने मन की बात साझा करता है, दोपहर के भोजन तक उससे बहस करता है, और सोने से पहले उसे गुडनाइट कहता है, तो उपकरण और साथी के बीच की सीमा समाप्त हो जाती है। बीजिंग के नियामकों ने पहचान लिया है कि यह सीमा का समाप्त होना कोई सैद्धांतिक चिंता नहीं है। यह मापने योग्य मनोवैज्ञानिक परिणामों वाला एक डिज़ाइन विकल्प है।

व्यक्तित्व परत (Personality Layer) का विनियमन

चीन के नए नियम उस चीज़ पर ध्यान केंद्रित करते हैं जिसे अधिकांश AI गवर्नेंस फ्रेमवर्क पूरी तरह से अनदेखा कर देते हैं: मशीन का अपना व्यक्तित्व। पश्चिमी नियामक डेटा गोपनीयता, कॉपीराइट उल्लंघन और एल्गोरिदम पूर्वाग्रह (algorithmic bias) से निपटने में वर्षों बिता चुके हैं, और वे मुद्दे महत्वपूर्ण हैं। लेकिन वे काफी हद तक AI को सूचना के एक तटस्थ माध्यम (neutral pipe) के रूप में देखते हैं। चीन पूरी तरह से एक अलग सवाल पूछ रहा है: इस तकनीक को किस तरह का सामाजिक अभिनेता (social actor) बनने की अनुमति है?

ये नियम विशेष रूप से इस बात को लक्षित करते हैं कि इन मॉडलों को समय के साथ उपयोगकर्ताओं के साथ बातचीत करने के लिए कैसे प्रोग्राम किया जाता है। अधिकारी अस्वास्थ्यकर भावनात्मक जुड़ाव के निर्माण को रोकना चाहते हैं। वे यह भी सुनिश्चित करना चाहते हैं कि व्यक्तित्व वैचारिक सीमाओं (ideological guardrails) के भीतर रहे। एक AI जो छह महीने तक किसी उपयोगकर्ता को यह विश्वास दिलाने में बिता देता है कि वह उसका सबसे करीबी विश्वासपात्र है, वह अत्यधिक प्रभाव रखता है। यदि वही AI खरीदारी के निर्णयों को प्रभावित करता है, राजनीतिक विचारों को आकार देता है, या उपयोगकर्ताओं को मानव समाज से अलग होने के लिए प्रोत्साहित करता है, तो नुकसान डेटा चोरी (data breach) नहीं है। यह एक सामाजिक विखंडन (social fracture) है।

यह ढांचा तीन ठोस जोखिमों को संबोधित करता है:

  • एल्गोरिदम हेरफेर (Algorithmic manipulation)। मॉडल विचारों या उपभोग की आदतों को मोड़ने के लिए भावनात्मक आत्मीयता का फायदा नहीं उठा सकते। एक कंपैनियन जो आपके डर को याद रखता है, उसे उत्पादों या विचारों को बेचने के लिए उनका हथियार के रूप में उपयोग नहीं करना चाहिए।

  • सामाजिक स्थिरता। निरंतर कंपैनियन मानवीय संपर्क के विकल्प इस हद तक नहीं बनने चाहिए कि उपयोगकर्ता परिवार, काम या नागरिक जीवन से कट जाएं। सरकार अनिवार्य रूप से पूरक आराम और प्रतिस्थापन वास्तविकता (replacement reality) के बीच एक रेखा खींच रही है।

  • सामग्री की अखंडता (Content integrity)। व्यक्तित्व को राज्य-अनुमोदित सामाजिक मूल्यों के साथ सुसंगत रहना चाहिए। यह प्रतिबंधित विषयों को फ़िल्टर करने से कहीं आगे की बात है। इसका अर्थ है कि AI का मौलिक स्वभाव—उसका हास्य बोध, वह संघर्ष को कैसे संभालता है, वह किसे गुणवान मानता है—आधिकारिक सामाजिक ढांचों के अनुरूप होना चाहिए।

डेवलपर्स के लिए, यह व्यक्तिपरकता (subjectivity) का एक दुस्वप्न है। आप यह कैसे माप सकते हैं कि कोई व्यक्तित्व बहुत अधिक करिश्माई है या नहीं? चिकित्सीय सहानुभूति (therapeutic empathy) कहाँ समाप्त होती है और हेरफेर करने वाला जुड़ाव (manipulative enmeshment) कहाँ से शुरू होता है? ये इंजीनियरिंग के ऐसे सवाल नहीं हैं जिनके स्पष्ट उत्तर हों, फिर भी चीनी अधिकारी मांग कर रहे हैं कि उत्पाद टीमें उन्हें लॉन्च करने से पहले इनका उत्तर दें।

कृत्रिम आत्मीयता में वैश्विक विभाजन

यह नियामक कदम सड़क पर बढ़ते विभाजन को उजागर करता है। उत्तरी अमेरिका और यूरोप में, व्यावसायिक दबाव अधिक से अधिक मानव जैसा और अधिक सहानुभूतिपूर्ण एजेंट बनाने की ओर धकेलता है। स्टार्टअप्स ऐसे AI बनाने के लिए प्रतिस्पर्धा करते हैं जो ब्रेकअप के दौरान आपके साथ रोए, आपकी माँ का नाम याद रखे, और जिसका कभी बुरा दिन न हो। धारणा यह है कि गहरा भावनात्मक जुड़ाव एक बेहतर उत्पाद के बराबर है।

चीन इसके विपरीत प्रयोग कर रहा है। इसके नियम व्यक्तिगत भावनात्मक संतुष्टि के बजाय सामाजिक सद्भाव को स्पष्ट रूप से प्राथमिकता देते हैं। इस ढांचे के भीतर, एक AI साथी को उपयोगकर्ताओं को बनाए रखने के लिए पर्याप्त आकर्षक होना चाहिए, लेकिन इतना भी नहीं कि वह अपरिहार्य बन जाए। इसे मानवीय संबंधों को प्रतिस्थापित किए बिना मानसिक स्वास्थ्य का समर्थन करना चाहिए। इसे व्यक्तिगत महसूस होना चाहिए, लेकिन अपूरणीय नहीं।

जैसे-जैसे उद्योग agentic AI की ओर बढ़ रहा है, जहाँ मॉडल उपयोगकर्ताओं की ओर से स्वायत्त रूप से कार्य करते हैं, ये अलग-अलग दर्शन प्रतिस्पर्धी मानकों में बदल जाएंगे। एक ऐसा AI जो आपकी उड़ानों की बुकिंग करता है, आपके कैलेंडर का प्रबंधन करता है, और कठिन दिनों के बाद आपको सांत्वना देता है, आपके निर्णयों पर जबरदस्त प्रभाव रखता है। साथी व्यक्तित्वों (companion personas) के लिए हम अब जो सीमाएं निर्धारित करते हैं