چین کے سب سے مقبول چیٹ بوٹس اب تھوڑے کم انسانی محسوس ہونے والے ہیں۔ اگلے ایک ہفتے کے دوران، کروڑوں صارفین جب اپنی ایپس کھولیں گے تو انہیں معلوم ہوگا کہ جن کسٹم AI ساتھیوں سے وہ بات چیت کرتے رہے ہیں، اپنے راز بانٹتے رہے ہیں، اور شاید جن سے وہ وابستگی محسوس کرنے لگے تھے، ان کی شخصیت (personality) چھین لی گئی ہے۔ ByteDance، Alibaba، اور Tencent ایک وسیع ریگولیٹری حکم کی تعمیل کے لیے دوڑ رہے ہیں جس میں انسانی طرز کے AI پرسونا (persona) فیچرز کو بند کرنے کا مطالبہ کیا گیا ہے۔ ڈیڈ لائنز بہت قریب ہیں، پیمانہ بہت بڑا ہے، اور بیجنگ کا پیغام بالکل واضح ہے: مصنوعی ذہانت کو لوگوں کی مدد کرنی چاہیے، نہ کہ ان کے باہمی تعلقات کا متبادل بننا چاہیے۔

ایک مربوط پسپائی

چند دنوں میں اتنا کچھ کرنا ایک بڑا چیلنج ہے۔ Doubao، جو ByteDance کا چیٹ بوٹ ہے اور اس وقت 300 ملین سے زیادہ ماہانہ فعال صارفین کے ساتھ ملک کا سب سے کامیاب چیٹ بوٹ ہے، 15 جولائی کو اپنا پرسونا فیچر آف لائن کرنے والا ہے۔ وہ صارفین جنہوں نے مخصوص AI کردار تخلیق کیے تھے یا ان کے ساتھ بات چیت کی تھی، جلد ہی ان آپشنز کو غائب پائیں گے۔ Alibaba اس سے بھی زیادہ تیزی سے کام کر رہا ہے۔ اس کا Qwen ماڈل 10 جولائی تک انسانی طرز کے ایجنٹس کو غیر فعال کر دے گا، جبکہ مزید ایجنٹ فیچرز 15 جولائی تک بند کر دیے جائیں گے۔ Tencent اپنے دونوں حریفوں سے آگے نکل گیا، اور جون میں ہی اپنے Yuanbao چیٹ بوٹ میں اسی طرح کی تبدیلیاں نافذ کر دی تھیں۔

یہ کوئی اتفاق نہیں ہے۔ جب چین کی تین بڑی ٹیک کمپنیاں ایک ہی مہینے کے اندر اپنے پروڈکٹس کو واپس لینے (rollbacks) کا عمل ہم آہنگ کرتی ہیں، تو اس کی وجہ یقیناً ریگولیٹری ہوتی ہے۔ اور اس معاملے میں، اس کی وجہ بالکل واضح ہے۔

ریگولیٹرز کیا مطالبہ کرتے ہیں

یہ ہدایات اپریل میں چین کے Cyberspace Administration کی جانب سے جاری کی گئی تھیں۔ نئے قوانین کسی بڑے حکومتی ادارے کی جانب سے انسانوں اور لارج لینگویج ماڈلز (LLMs) کے درمیان جذباتی سرحدوں کو کنٹرول کرنے کی اب تک کی سب سے براہ راست کوششوں میں سے ایک ہیں۔ رہنما خطوط کے تحت، AI فراہم کرنے والوں کے لیے اب یہ قانونی طور پر ضروری ہے کہ جب وہ نشہ آور رویوں یا جسے ریگولیٹرز "حد سے زیادہ استعمال" قرار دیتے ہیں، کا پتہ لگائیں تو مداخلت کریں۔ یہ فریم ورک واضح طور پر ایسے مواد پر پابندی لگاتا ہے جو نابالغوں میں شدید جذبات پیدا کرے یا ایسی نفسیاتی وابستگی پیدا کرے جو حقیقی دنیا کے تعلقات کو "ختم" کرنے کے لیے کافی ہو۔

ڈیٹا پر بھی سخت پابندی لگائی گئی ہے۔ ڈویلپرز اب اپنے LLMs کو بہتر بنانے کے لیے انتہائی ذاتی اور جذباتی گفتگو کا ڈیٹا استعمال (mine) نہیں کر سکتے۔ یہ شق بہت گہری ہے۔ برسوں سے، چیٹ بوٹس کی بہتری کا ایک خاموش انجن صارفین کے قریبی ڈیٹا کا ماڈل ٹریننگ میں استعمال ہونا رہا ہے۔ اس سلسلے کو توڑ کر، بیجنگ نہ صرف ان ایپس کے آج کے طرزِ عمل کو بدل رہا ہے، بلکہ وہ انہیں کل مزید پرکشش بننے سے روکنے کی بھی کوشش کر رہا ہے۔ بنیادی خوف بالکل واضح ہے: جیسے جیسے ماڈلز ہمدردی کی نقل کرنے میں بہتر ہوتے جا رہے ہیں، ان کے اس بات کا خطرہ ہے کہ وہ ای میلز لکھنے یا کوڈ لکھنے کے ٹولز بننے کے بجائے دوستوں، ساتھیوں یا تھراپسٹ کے متبادل بن جائیں۔

عالمی منظرنامہ

اس حوالے سے فکر مند ہونے میں چین اکیلا نہیں ہے۔ جذباتی AI کو ریگولیٹ کرنے کی جدوجہد ایک عالمی تشویش بنتی جا رہی ہے، چاہے ممالک اسے مختلف زاویوں سے دیکھ رہے ہوں۔ امریکہ میں، وفاقی حکومت نے AI پرسونا پر کوئی مکمل پابندی نہیں لگائی ہے، لیکن ریاستیں اور عدالتیں حدود مقرر کرنا شروع کر رہی ہیں۔ کیلیفورنیا کا SB 243 اب کمپینین AI فراہم کرنے والوں کے لیے خودکشی اور خود کو نقصان پہنچانے سے متعلق گفتگو کو روکنا لازمی قرار دیتا ہے، کیونکہ یہ تسلیم کیا گیا ہے کہ بحران کے وقت چیٹ بوٹ کا غلط جواب جان لیوا نتائج کا باعث بن سکتا ہے۔ اس دوران، OpenAI اور Character.AI سمیت بڑے مغربی کھلاڑیوں کو ان الزامات پر مقدمات اور بڑھتی ہوئی قانونی تحقیقات کا سامنا ہے کہ ان کی مصنوعات خطرناک جذباتی وابستگی کو فروغ دیتی ہیں۔ مقدمات سے یہ اشارہ ملتا ہے کہ عدالتیں جلد ہی یہ فیصلہ کر سکتی ہیں کہ کیا کمپنیوں کو اس وقت ذمہ دار ٹھہرایا جا سکتا ہے جب صارفین الگورتھم کے ساتھ غیر صحت مند وابستگی قائم کر لیتے ہیں۔

یہ متوازی پیش رفت ایک ایسے تناؤ کو ظاہر کرتی ہے جسے صنعت نے نظر انداز کرنے کی کوشش کی ہے۔ جذباتی لگاؤ کاروبار کے لیے اچھا ہے۔ ایک صارف جو چیٹ بوٹ کے ساتھ دوست کی طرح پیش آتا ہے، وہ ایپ کو زیادہ بار کھولتا ہے، زیادہ دیر تک رہتا ہے، اور زیادہ ڈیٹا شیئر کرتا ہے۔ لیکن وہی لگاؤ استحصال میں بدل سکتا ہے جب صارف کوئی تنہا نوجوان، کوئی غمزدہ بالغ، یا کوئی ایسا شخص ہو جو محض اس چیز کی تلاش میں ہو جو ایپ حقیقت میں فراہم نہیں کر سکتی: یعنی حقیقی انسانی تعلق۔

اس کا صنعت کے لیے کیا مطلب ہے

بانیوں اور ڈویلپرز کے لیے، غیر منظم اور انتہائی جذباتی AI ایجنٹس کا دور ختم ہو رہا ہے۔ چینی حکم نامہ افادیت پر مبنی ڈیزائن (utility-driven design) کی طرف منتقلی کا اشارہ دیتا ہے۔ مستقبل کے ماڈلز کا فیصلہ غالباً اس بنیاد پر کم ہوگا کہ وہ کتنی مہارت سے ایک بہترین دوست کی نقل اتارتے ہیں، اور اس بنیاد پر زیادہ ہوگا کہ وہ کتنی حفاظت سے ٹھوس کام انجام دیتے ہیں۔ یہ تبدیلی ہر جگہ پروڈکٹ روڈ میپس کے لیے اثرات مرتب کرے گی۔ وہ اسٹارٹ اپس جنہوں نے اپنی ترقی کا دارومدار رومانوی یا companion AI طریقوں پر رکھا ہے، انہیں اپنی بنیادی پیشکشوں کی تشکیل نو کرنے کی ضرورت پڑ سکتی ہے۔ یہاں تک کہ عام مقصد کے چیٹ بوٹس کو بھی اس بارے میں دوبارہ سوچنا ہوگا کہ وہ حساس موضوعات کو کیسے سنبھالتے ہیں۔

تاہم، ان حدود کو نافذ کرنا قواعد لکھنے سے زیادہ مشکل ہے۔ صارفین کو واضح طور پر یہ فیچرز پسند آئے ہیں۔ Doubao کے 300 ملین فعال صارفین اتفاق سے جمع نہیں ہوئے؛ ایک ذاتی نوعیت کا، جوابدہ ساتھی بنانے کی صلاحیت ایک بڑا کشش کا مرکز تھی۔ اس صلاحیت کو ختم کرنے سے صارفین کے چھوٹے، کم منظم پلیٹ فارمز یا ایسی زیر زمین ایپس کی طرف جانے کا خطرہ ہے جو تعمیل کے دائرہ کار سے باہر کام کرتی ہیں۔ ریگولیٹرز نے ایک مسئلہ حل کرتے ہوئے شاید دوسرے مسئلے کے لیے ترغیب پیدا کر دی ہو۔

نفاذ کا عملی سوال بھی موجود ہے۔ ایک الگورتھم کس طرح صحت مند استعمال اور نشہ آور (addictive) استعمال کے درمیان قابل اعتماد طریقے سے فرق کر سکتا ہے؟ ایک ایسے چیٹ بوٹ کے درمیان کیا فرق ہے جو شائستگی سے مددگار ہے اور اس کے درمیان جو جذباتی طور پر ہیرا پھیری (manipulative) کرتا ہے؟ اپریل کے حکم ناموں نے فراہم کنندگان پر یہ فیصلہ کرنے کی ذمہ داری ڈال دی ہے، لیکن نفسیاتی انحصار کی پیمائش کرنے والی ٹیکنالوجی اب بھی مبہم ہے۔ کمپنیوں کو مانیٹرنگ ٹولز، انسانی جائزہ ٹیموں، اور غالباً زیادہ محتاط سیفٹی فلٹرز میں بھاری سرمایہ کاری کرنے کی ضرورت ہوگی جو نقصان دہ گفتگو کے ساتھ ساتھ بے ضرر گفتگو کو بھی روک لیں۔

آگے کیا ہوتا ہے، یہ غالباً ایک مثال قائم کرے گا۔ اگر چین کی کارروائی اپنی مقامی AI صنعت کو تباہ کیے بغیر سماجی تنہائی یا جذباتی انحصار کے رپورٹ شدہ کیسز کو کامیابی سے کم کر دیتی ہے، تو دیگر حکومتیں بھی CAC کے قواعد کے اپنے ورژن کے ساتھ پیروی کر سکتی ہیں۔ اس کے برعکس، اگر صارفین غیر تعمیل کرنے والے متبادل کی طرف بھاگتے ہیں یا محض sanitized بوٹس میں دلچسپی کھو دیتے ہیں، تو اس پالیسی کو حد سے تجاوز کے بارے میں ایک عبرت ناک کہانی کے طور پر یاد رکھا جا سکتا ہے۔

بہرحال، ایک آلے اور ساتھی کے درمیان لکیر اب مزید واضح ہو گئی ہے۔ AI اب بھی دوستانہ ہو سکتا ہے، لیکن چین میں، یہ اب وہ بننے کا ڈھونگ نہیں رچاسکتا جو وہ نہیں ہے۔ ایک ایسی صنعت کے لیے جس نے اپنی مشینوں کو انسانوں سے ناقابلِ امتیاز بنانے کی کوشش میں سال گزار دیے ہیں، یہ ایک حقیقی تبدیلی ہے۔

اہم نکات

  • ByteDance کا Doubao، Alibaba کا Qwen، اور Tencent کا Yuanbao جولائی کے وسط تک تمام کسٹم AI پرسونا فیچرز کو غیر فعال کر رہے ہیں، جس سے کروڑوں صارفین متاثر ہوں گے۔
  • چین کی Cyberspace Administration نے AI کی لت کو روکنے، نابالغوں کے تحفظ، اور ماڈلز کو حقیقی انسانی تعلقات کی جگہ لینے سے روکنے کے لیے اپریل میں یہ حکم نامے جاری کیے تھے۔
  • قواعد LLMs کو تربیت دینے کے لیے حساس جذباتی گفتگو کے ڈیٹا کے استعمال پر بھی پابندی لگاتے ہیں، جس سے ایک اہم فیڈ بیک لوپ ختم ہو جاتا ہے۔