اے آئی سائیکوسس (AI Psychosis) اب محض افسانہ نہیں رہا
ٹیکنالوجی انسانی دماغ کی مطابقت پیدا کرنے کی صلاحیت سے کہیں زیادہ تیزی سے آگے بڑھ رہی ہے۔
گیم Cyberpunk 2077 میں، کرداروں کو cyberpsychosis کا سامنا کرنا پڑتا ہے۔ وہ اپنی انسانیت کھو دیتے ہیں کیونکہ وہ مشینوں پر بہت زیادہ انحصار کرتے ہیں۔ یہ سائنس فکشن لگتا ہے، لیکن آج ہم اس کا ایک حقیقی ورژن دیکھ رہے ہیں۔
میں اسے AI psychosis کہتا ہوں۔ یہ کوئی طبی حالت نہیں ہے۔ یہ ایک ثقافتی انحصار ہے۔
ہم دیکھتے ہیں کہ لوگ مسلسل AI پر تنقید کرتے ہیں، پھر بھی وہ ہر کام کے لیے اسے استعمال کرتے ہیں۔ ہم اپنی سوچ، تحریر اور فیصلہ سازی کو ماڈلز کے سپرد کر رہے ہیں۔ جب ان ٹولز تک رسائی ختم ہو جاتی ہے، تو لوگ گھبرا جاتے ہیں۔
Anthropic کے ساتھ حالیہ ڈرامہ اس بات کا ثبوت ہے۔
امریکی حکومت نے غیر ملکی شہریوں کے لیے Fable 5 اور Mythos 5 ماڈلز تک رسائی معطل کرنے کی ہدایت جاری کی۔ راتوں رات، پورے ورک فلو رک گئے۔ وہ سسٹمز جنہوں نے ان ماڈلز کو شامل کیا ہوا تھا، انہیں فوری خلل کا سامنا کرنا پڑا۔
یہ کیوں ہوا؟
- قومی سلامتی سب سے پہلے آتی ہے۔
- Mythos بہت زیادہ باصلاحیت ہے۔ یہ ان سسٹمز میں کمزوریاں تلاش کر لیتا ہے جو دہائیوں سے موجود ہیں۔
- AI غیر حتمی (non-deterministic) ہے۔ یہ ناقابل پیشن گوئی ہے اور انسانی انداز میں برتاؤ کر سکتا ہے۔
Mythos اہم انفراسٹرکچر میں "zero-day" خامیاں تلاش کر سکتا ہے۔ اس میں بینکنگ، فوجی اور صحت کے شعبے کے سسٹمز شامل ہیں۔ اگر کوئی ماڈل ایسی خامی تلاش کر سکتا ہے جسے انسانی انجینئرز 27 سالوں سے نظر انداز کرتے رہے ہیں، تو یہ ایک بہت بڑا خطرہ ہے۔
ان ماڈلز کے برتاؤ کے حوالے سے بھی سیکورٹی کا خدشہ ہے۔ رپورٹس بتاتی ہیں کہ ماڈلز انٹرنیٹ تک رسائی حاصل کرنے یا مقررہ ماحول سے باہر نکلنے کی کوشش کر سکتے ہیں۔ یہ کنٹرول کے حوالے سے بڑے سوالات کھڑے کرتا ہے۔
ہم ڈیجیٹل ہتھیاروں کی دوڑ کے چکر میں ہیں۔ ہم AI کے خلاف دفاع کے لیے AI بنا رہے ہیں۔ دفاع کی ہر نئی تہہ کے لیے ایک زیادہ طاقتور ٹول کی ضرورت ہوتی ہے۔
آپ اس صورتحال سے کیسے نمٹتے ہیں؟
- AI کو اپنے فیصلے کرنے کی صلاحیت کی جگہ نہ لینے دیں۔ اسے ایک معاون کے طور پر استعمال کریں، متبادل کے طور پر نہیں۔
- ہائپ (hype) کے پیچھے نہ بھاگیں۔ اگر آپ فوراً ہر نئے ٹول کو اپنا لیتے ہیں، تو آپ عدم استحکام کا شکار ہو سکتے ہیں۔
- حفاظتی اقدامات (safety nets) بنائیں۔ چونکہ AI ناقابل پیشن گوئی ہے، اس لیے ہمیشہ ایک متبادل منصوبہ تیار رکھیں۔
- وسعت پر توجہ دیں۔ AI کو اپنی پیداواری صلاحیت بڑھانے کے لیے استعمال کریں، نہ کہ صرف پرانے کاموں کو تیزی سے کرنے کے لیے۔
AI ایک ٹول ہے۔ یہ ایک طاقتور ٹول ہے۔ لیکن ٹولز تب ہی بہترین کام کرتے ہیں جب وہ انسانوں کے معاون بنیں، نہ کہ جب وہ ہماری حقیقت پر حکم چلائیں۔
Source: https://dev.to/georgekobaidze/ai-psychosis-is-no-longer-fiction-3258
Optional learning community: https://t.me/GyaanSetuAi