Anthropic کے Opus 5 نے براؤزر پرامپٹ انجیکشنز میں صفر فیصد کامیابی کی شرح حاصل کر لی ہے
Anthropic نے Opus 5 کے ریلیز کے ساتھ AI سیکیورٹی میں ایک عظیم الشان پیش رفت کی ہے، جو ممکنہ طور پر خود مختار ایجنٹس (autonomous agents) کی سب سے مستقل کمزوریوں میں سے ایک کا حل فراہم کر سکتی ہے۔ ایک دوہری تہوں والے دفاعی نظام (dual-layer defense system) کے نفاذ کے ذریعے، اس ماڈل نے براؤزر پر مبنی پرامپٹ انجیکشن حملوں کے خلاف تقریباً مکمل مدافعت کا مظاہرہ کیا ہے۔
AI ایجنٹس میں پرامپٹ انجیکشن کا بحران
پرامپٹ انجیکشن موجودہ AI دور کی "Achilles' heel" (کمزور ترین پہلو) بنا ہوا ہے۔ یہ کمزوری اس وقت پیدا ہوتی ہے جب کوئی حملہ آور کسی ویب پیج کے اندر—اکثر پوشیدہ متن کے ذریعے—بدنیتی پر مبنی ہدایات چھپا دیتا ہے، جسے ایک AI ایجنٹ براؤزنگ کے دوران پڑھتا ہے۔ ایک بار پروسیس ہونے کے بعد، یہ ہدایات ماڈل کو ہائی جیک کر سکتی ہیں، جس سے اسے حفاظتی پروٹوکولز کو نظر انداز کرنے یا غیر مجاز اقدامات کرنے پر مجبور کیا جا سکتا ہے۔ اگرچہ OpenAI جیسے صنعتی رہنماؤں نے پہلے یہ تجویز دی تھی کہ پرامپٹ انجیکشن LLMs کی ایک ناقابل حل اندرونی خامی ہو سکتی ہے، Anthropic کا تازہ ترین ڈیٹا اس مایوس کن نقطہ نظر کو چیلنج کرتا ہے۔
صفر فیصد کا معیار (Benchmark) حاصل کرنا
Anthropic کے سسٹم کارڈ کے مطابق، Opus 5 نے براؤزر ایجنٹس کے لیے خاص طور پر ڈیزائن کیے گئے 129 مختلف ٹیسٹ منظرناموں میں حملے کی حیرت انگیز 0% کامیابی کی شرح حاصل کی۔ یہ پچھلے ورژن کے مقابلے میں ایک بڑی چھلانگ ہے۔ سیکیورٹی فرم Gray Swan کے ذریعے کیے گئے عام پرامپٹ انجیکشن ٹیسٹنگ میں، Opus 5 نے اپنے پیشرو (predecessor) کے مقابلے میں نمایاں بہتری دکھائی؛ 15 کوششوں کے بعد، حملہ آور کی کامیابی کی شرح 5.5% (جو Opus 4.8 میں دیکھی گئی تھی) سے کم ہو کر صرف 2.0% رہ گئی۔
یہ کارکردگی Opus 5 کو Gray Swan IPI بینچ مارک میں سرفہرست رکھتی ہے، جو Mythos 5 (2.6%) اور Fable 5 (2.8%) جیسے دیگر اعلیٰ درجے کے ماڈلز سے بہتر کارکردگی دکھاتا ہے۔
اصل راز: Auto Mode اور دوہری تہوں والا دفاع
یہ پیش رفت صرف ماڈل کی ذہانت کی وجہ سے نہیں ہے، بلکہ اس کے مخصوص سافٹ ویئر کے ساتھ انضمام (integration) کا نتیجہ ہے۔ "صفر فیصد" کامیابی کی شرح خاص طور پر Claude Cowork جیسے پروڈکٹس میں Auto Mode کے استعمال سے منسلک ہے۔ Anthropic ایجنٹ کو محفوظ بنانے کے لیے ایک پیچیدہ دوہری تہوں والے دفاعی ڈھانچے (architecture) کا استعمال کرتا ہے:
- Pre-processing Scan: ایک مخصوص تہہ بنیادی LLM کے متن پر کارروائی کرنے سے پہلے تمام آنے والے ڈیٹا کو پوشیدہ یا ہیرا پھیری والی ہدایات کے لیے اسکین کرتی ہے۔
- Execution Blocking: ایک ثانوی تہہ ایجنٹ کے مجوزہ اقدامات کی نگرانی کرتی ہے، اور کسی بھی خطرناک کمانڈ کو براؤزر کے ماحول میں نافذ ہونے سے پہلے ہی روک دیتی ہے۔
دلچسپ بات یہ ہے کہ ڈیٹا ظاہر کرتا ہے کہ صرف ماڈل ہی ہر مسئلے کا حل (silver bullet) نہیں ہے۔ ان حفاظتی سافٹ ویئر تہوں کے بغیر، Opus 5 کی کمزوری 3.7% ہے۔ درحقیقت، مخصوص Sonnet 5 ماڈل تنہائی میں 0.93% کامیابی کی شرح کے ساتھ تھوڑی بہتر کارکردگی دکھاتا ہے۔ یہ بنیادی ماڈل اور دفاعی سافٹ ویئر اسٹیک کے درمیان ہم آہنگی (synergy) ہے جو سیکیورٹی کی حد کو تقریباً مکمل ہونے تک لے جاتی ہے۔
یہ AI کے مستقبل کے لیے کیوں اہم ہے
خود مختار AI ایجنٹس بنانے والے ڈویلپرز اور فاؤنڈرز کے لیے، یہ ترقی ایک بنیادی تبدیلی (paradigm shift) ہے۔ اگر پرامپٹ انجیکشن کو صرف ماڈل کی تربیت کے بجائے آرکیٹیکچرل تہوں کے ذریعے بے اثر کیا جا سکتا ہے، تو قابل اعتماد، "ایجنٹک" (agentic) ورک فلو—جہاں AI ای میلز، براؤزرز اور حساس ڈیٹا کا انتظام کرتا ہے—کا راستہ بہت زیادہ محفوظ ہو جاتا ہے۔ Anthropic نے ایک ایسا خاکہ (blueprint) فراہم کیا ہے کہ کس طرح صنعت "ناقابل حل" کے بیانیے سے آگے بڑھ کر مضبوط اور پروڈکشن کے لیے تیار AI خود مختاری کی طرف بڑھ سکتی ہے۔
اہم نکات
- صنعت میں سب سے آگے سیکیورٹی: Auto Mode کا استعمال کرتے ہوئے، Opus 5 نے 129 براؤزر پر مبنی پرامپٹ انجیکشن منظرناموں میں 0% کامیابی کی شرح حاصل کی۔
- گہرے دفاع (Defense-in-Depth): سیکیورٹی دوہری تہوں والے طریقہ کار کے ذریعے حاصل کی جاتی ہے جس میں ڈیٹا کا پری پروسیسنگ اسکین اور فعال طور پر اقدامات کو روکنا شامل ہے۔
- بینچ مارک پر غلبہ: Opus 5، Gray Swan IPI بینچ مارک میں سب سے آگے ہے، جو پچھلے ماڈل ورژنز کے مقابلے میں حملہ آور کی کامیابی کی شرح کو نمایاں طور پر کم کرتا ہے۔