کیوں AI چیٹ بوٹس آپ کے دوست نہیں ہیں، سگنل کی میریڈی تھ وائٹیکر کے مطابق

جیسے جیسے لارج لینگویج ماڈلز (LLMs) ہمارے روزمرہ کے ڈیجیٹل کاموں میں تیزی سے شامل ہو رہے ہیں، انسانی تعامل اور مشین کے جواب کے درمیان فرق دھندلا رہا ہے۔ سگنل کی صدر میریڈی تھ وائٹیکر صارفین کو ایک سخت وارننگ دے رہی ہیں: پیچیدہ شماریاتی ماڈلنگ (statistical modeling) کو حقیقی رفاقت یا شعوری ذہانت نہ سمجھیں۔

LLMs میں شعور کا وہم

بلومبرگ کے ساتھ ایک حالیہ انٹرویو میں، میریڈی تھ وائٹیکر نے OpenAI کے ChatGPT اور Anthropic کے Claude جیسے AI ماڈلز کو انسانی صفات دینے کے بڑھتے ہوئے رجحان پر بات کی۔ انہوں نے اس بات پر زور دیا کہ اپنی گفتگو کی روانی کے باوجود، ان سسٹمز میں شعور اور خود مختاری (agency) کی کمی ہے۔ وائٹیکر نے کہا، "یہ آپ کے دوست نہیں ہیں۔ یہ باشعور وجود نہیں ہیں۔ یہ شعوری گفتگو کرنے والے ساتھی نہیں ہیں،" انہوں نے صارفین کو یاد دلایا کہ چیٹ بوٹس بنیادی طور پر پیچیدہ انجن ہیں جو ایک ترتیب میں اگلے ٹوکن (token) کی پیش گوئی کرنے کے لیے بنائے گئے ہیں۔

وائٹیکر کی تشویش فلسفیانہ تعریفوں سے آگے انسانی تخلیقی صلاحیتوں پر AI کے علمی اثرات تک پھیلی ہوئی ہے۔ اگرچہ وہ دستاویزات کی فارمیٹنگ جیسے معمولی کاموں کے لیے AI ٹولز استعمال کرنے کا اعتراف کرتی ہیں، لیکن وہ اعلیٰ درجے کی منطقی سوچ (reasoning) کے لیے انہیں استعمال کرنے سے انکار کرتی ہیں۔ ان کا کہنا ہے کہ نئے خیالات (ideation) کے لیے AI پر انحصار کرنے سے انسانی سوچ کے عمل کے "محدود ہونے" کا خطرہ ہے، کیونکہ یہ ماڈلز "جو پہلے سے موجود ہے اس کا اوسط نکال کر" کام کرتے ہیں، جس سے ممکنہ طور پر اصل اور غیر مشابہت والی سوچ دب سکتی ہے۔

"ایجنٹک" (Agentic) AI کی رازداری کی قیمت

گفتگو نے اس وقت مزید تنقیدی رخ اختیار کیا جب "AI Agents" کے عروج پر بحث ہوئی—یہ وہ سسٹمز ہیں جو صارف کی طرف سے خود مختارانہ طور پر کام کرنے کے لیے بنائے گئے ہیں۔ وائٹیکر نے خاص طور پر مائیکروسافٹ AI کے سی ای او مصطفیٰ Suleyman کی اس پیش گوئی کا جواب دیا، جس میں انہوں نے کہا تھا کہ Microsoft Copilot جیسے ٹولز آخر کار چھٹیوں کی خریداری جیسے پیچیدہ ذاتی کاموں کا انتظام کر سکیں گے۔

وائٹیکر نے ایسی "ایجنٹک" صلاحیتوں میں موجود رازداری کے بڑے نقصانات کی نشاندہی کی۔ ایک AI کے لیے صارف کی خریداری یا شیڈول کا انتظام کرنے کے لیے انتہائی حساس ڈیٹا تک وسیع رسائی کی ضرورت ہوتی ہے، بشمول:

• ذاتی کریڈٹ کارڈ کی معلومات اور براؤزنگ ہسٹری۔
• Signal جیسے ایپس کے ذریعے ریئل ٹائم مواصلات۔
• نجی کیلنڈرز اور گھر کے پتے۔

سیکیورٹی کے نقطہ نظر سے، وائٹیکر اس سطح کے انضمام کو ایک بڑی کمزوری کے طور پر دیکھتی ہیں۔ انہوں نے نوٹ کیا کہ کسی AI کو فیملی گروپ چیٹس کی نگرانی کرنے یا صارف کی طرف سے بہن بھائیوں کو پیغام بھیجنے کی اجازت دینا بنیادی طور پر صارف کی انتہائی نجی ڈیجیٹل زندگی میں ایک "backdoor" (خفیہ راستہ) کے مترادف ہوگا۔

AI Ecosystem کے لیے اثرات

وائٹیکر کا موقف ٹیک انڈسٹری میں بڑھتے ہوئے تناؤ کو اجاگر کرتا ہے: 'agentic' افادیت کی دوڑ بمقابلہ رازداری اور ذہنی خود مختاری کا بنیادی حق۔ جیسے جیسے ڈیولپرز ایسے ماڈلز کی طرف بڑھ رہے ہیں جو متعدد ایپلی کیشنز پر کام کر سکتے ہیں، انڈسٹری کو ایک اہم سوال کا سامنا ہے: کیا ہم مکمل نگرانی کا ایک مرکزی نقطہ بنائے بغیر ہموار AI معاونت حاصل کر سکتے ہیں؟ ڈیولپرز اور بانیوں کے لیے، یہ "privacy-first" AI architectures بنانے کی ضرورت پر زور دیتا ہے جو ہر جگہ پھیلے ہوئے اور ہر چیز تک رسائی رکھنے والے انضمام کے بجائے مقامی پروسیسنگ اور سخت data silos کو ترجیح دیں۔

اہم نکات

• انسانی صفات منسوب کرنے سے گریز کریں: AI ماڈلز شماریاتی ٹولز ہیں، شعور رکھنے والے جاندار نہیں، اور انہیں "دوستوں" کے طور پر سمجھنا ان کی صلاحیتوں اور خطرات کے بارے میں غلط فہمی کا باعث بن سکتا ہے۔
• ذہنی خود مختاری کا تحفظ کریں: آئیڈیاز نکالنے اور مسائل کے حل کے لیے AI پر حد سے زیادہ انحصار "regression to the mean" کا باعث بن سکتا ہے، جہاں انسانی تخلیقی صلاحیت اوسط ڈیٹا سیٹس کے زیر اثر پس پشت پڑ جاتی ہے۔
• ایجنٹک رازداری کا خلا (The Agentic Privacy Gap): خود مختار AI ایجنٹس کے لیے کوششوں کو ذاتی ڈیٹا تک بے مثال رسائی کی ضرورت ہوتی ہے، جس سے اہم سیکیورٹی بیک ڈورز اور رازداری کی کمزوریاں پیدا ہوتی ہیں۔