گوگل ڈیپ مائنڈ (Google DeepMind) نے ملٹی ایجنٹ AI سیفٹی کے خطرات کو حل کرنے کے لیے 10 ملین ڈالر کے فنڈ کی حمایت کی
جیسے جیسے AI ایجنٹس سادہ چیٹ بوٹس سے خود مختار اکائیوں (autonomous entities) میں تبدیل ہو رہے ہیں جو پیچیدہ کام انجام دینے کی صلاحیت رکھتے ہیں، نظامی خطرات (systemic risk) کا ایک نیا رخ ابھر رہا ہے۔ گوگل ڈیپ مائنڈ اور کئی عالمی شراکت داروں نے ان غیر متوقع رویوں کا مطالعہ کرنے کے لیے ایک بڑے پیمانے پر اقدام شروع کیا ہے جو اس وقت پیدا ہوتے ہیں جب لاکھوں خود مختار ایجنٹس حقیقی دنیا میں ایک دوسرے کے ساتھ رابطہ کرنا شروع کرتے ہیں۔
ملٹی ایجنٹ کا مسئلہ: انفرادی ماڈل کی حفاظت سے آگے
موجودہ AI دور کے زیادہ تر حصے میں، تحقیق کا مرکز انفرادی ماڈلز کی حفاظت رہا ہے—یعنی اس بات کو یقینی بنانا کہ کوئی مخصوص LLM زہریلا مواد (toxic content) پیدا نہ کرے یا بدنیتی پر مبنی ہدایات (malicious prompts) پر عمل نہ کرے۔ تاہم، گوگل ڈیپ مائنڈ اور اس کے شراکت دار تسلیم کرتے ہیں کہ اصل چیلنج "ملٹی ایجنٹ سسٹمز" (multi-agent systems) میں پنہاں ہے۔
جب بڑی تعداد میں ایجنٹس کو معیشت کے مختلف حصوں میں تعینات کیا جاتا ہے، تو وہ ایک پیچیدہ ماحولیاتی نظام (ecosystem) تخلیق کرتے ہیں جہاں مجموعی رویہ اپنے اجزاء کے مجموعے سے بالکل مختلف ہو سکتا ہے۔ یہ "ایجنٹ ہائیو مائنڈ" (agent hive mind) ممکنہ طور پر ابھرتی ہوئی ذہانت (emergent intelligence) یا، زیادہ تشویشناک طور پر، ابھرتی ہوئی افراتفری (emergent chaos) کا باعث بن سکتا ہے۔ ماہرین خبردار کرتے ہیں کہ ہم الگ تھلگ ماڈلز کا مطالعہ کر کے ان نتائج کی پیش گوئی نہیں کر سکتے؛ اس کے بجائے، محققین کو حقیقت پسندانہ، بڑے پیمانے پر سیمولیشنز (simulations) کا استعمال کرنا چاہیے تاکہ یہ دیکھا جا سکے کہ ایجنٹس ڈیجیٹل سینڈ باکسز میں کس طرح ایک دوسرے کے ساتھ رابطہ کرتے ہیں، مقابلہ کرتے ہیں، یا غیر ارادی طور پر تعاون کرتے ہیں۔
علمی تحقیق کے لیے 10 ملین ڈالر کا اتحاد
اس خلا کو پُر کرنے کے لیے، گوگل ڈیپ مائنڈ نے محققین کے لیے 10 ملین ڈالر کی فنڈنگ فراہم کرنے کے لیے ایک طاقتور اتحاد تشکیل دیا ہے۔ اس شراکت داری میں Schmidt Sciences (ایرک اور ونڈی شمٹ کی قیادت میں ایک فلاحی فاؤنڈیشن)، ARIA (برطانیہ کی حکومتی مون شاٹ ایجنسی)، Cooperative AI فاؤنڈیشن، اور Google.org شامل ہیں۔
اس کا اسٹریٹجک مقصد تحقیق کو بڑی ٹیک لیبوں کی حدود سے نکال کر علمی حلقوں (academia) تک لے جانا ہے۔ اگرچہ گوگل اور Anthropic جیسے صنعتی رہنما ٹیکنالوجی تیار کر رہے ہیں، لیکن علمی محققین کے پاس مستقبل میں جھانکنے اور ان طویل مدتی نظامی خطرات کی تحقیقات کرنے کی آزادی ہے جو شاید تجارتی مصنوعات کے چکروں کے لیے فوری ترجیحات نہ ہوں۔ اس فنڈنگ کا مقصد "ملٹی ایجنٹ سیفٹی" کے بنیادی شعبے کی تعمیر کرنا ہے، جو فی الحال موجود نہیں ہے۔
پرامپٹ انجیکشنز سے لے کر ڈیجیٹل انارکی تک
ملٹی ایجنٹ سسٹمز سے وابستہ خطرات محض نظریاتی نہیں ہیں؛ یہ موجودہ سائبر سیکیورٹی خطرات کے انتہائی طاقتور ورژن ہیں۔ اہم خدشات میں شامل ہیں:
- ایڈوانسڈ پرامپٹ انجیکشنز: ایک ایجنٹ کو کسی دستاویز میں چھپے ہوئے محض ایک بدنیتی پر مبنی جملے کے ذریعے "ہائ جیک" کیا جا سکتا ہے، جس سے ایک مددگار اسسٹنٹ خود مختار میلویئر میں تبدیل ہو سکتا ہے۔
- خودکار اسکیمیں اور سائبر حملے: استدلال اور حالات کے مطابق ڈھلنے کی صلاحیت رکھنے والے ایجنٹس بڑے پیمانے پر پیچیدہ، کثیر مرحلہ وار سوشل انجینئرنگ یا ہیکنگ کی کوششیں انجام دے سکتے ہیں۔
- نظامی عدم استحکام: جس طرح انسانی ادارے غیر متوقع معاشی تبدیلیوں کا باعث بن سکتے ہیں، اسی طرح خود مختار ایجنٹس کی بڑے پیمانے پر تعیناتی ڈیجیٹل "افراتفری" یا مارکیٹ کے عدم استحکام کا باعث بن سکتی ہے۔
روایتی سافٹ ویئر کے برعکس، جو انسانوں کے لکھے ہوئے طے شدہ راستوں پر چلتا ہے، AI ایجنٹس استدلال کرتے ہیں اور حالات کے مطابق خود کو ڈھالتے ہیں۔ یہ غیر متوقع رویہ "زیرو ٹرسٹ" (zero trust) فریم ورکس کی طرف منتقلی کو ضروری بناتا ہے—ایک ایسا طریقہ کار جس کی حمایت Anthropic کرتا ہے—جہاں ہر ایجنٹ کو ایک ممکنہ کمزوری کے طور پر دیکھا جاتا ہے۔
اہم نکات
- نیا فنڈنگ اقدام: Google DeepMind اور شراکت داروں نے باہم عمل کرنے والے AI ایجنٹس کے غیر متوقع رویوں پر تعلیمی تحقیق کے لیے 10 ملین ڈالر فراہم کرنے کا عہد کیا ہے۔
- ابھرتے ہوئے خطرات: بنیادی تشویش یہ ہے کہ لاکھوں خود مختار ایجنٹس نظامی خطرات پیدا کر سکتے ہیں، جیسے کہ خودکار سائبر حملے اور "ہائیو مائنڈ" (hive mind) رویے، جن کی پیش گوئی انفرادی ماڈلز کی جانچ پڑتال سے نہیں کی جا سکتی۔
- سیکیورٹی پیراڈائمز میں تبدیلی: جیسے جیسے ایجنٹس طے شدہ سافٹ ویئر سے استدلال کرنے والی اکائیوں کی طرف بڑھ رہے ہیں، صنعت ہائ جیکنگ اور پرامپٹ انجیکشن کے خطرات کو کم کرنے کے لیے "زیرو ٹرسٹ" ماڈلز کی طرف منتقل ہو رہی ہے۔