تصور کریں کہ آپ ایک مالیاتی خدمات کی فرم میں سینئر ایپلی کیشن سیکیورٹی انجینئر ہیں۔ آپ اندرونی طور پر تیار کردہ آتھنٹیکیشن کوڈ کا ایک ٹکڑا ایک جدید ترین AI ماڈل میں ڈالتے ہیں اور اس سے منطقی خامیوں (logic flaws) کی نشاندہی کرنے کو کہتے ہیں۔ تجزیے کے بجائے، آپ کو ایک لیکچر ملتا ہے۔ ماڈل اس بنیاد پر انکار کر دیتا ہے کہ شاید آپ اس معلومات کو "سسٹم کے استحصال" (exploit a system) کے لیے استعمال کریں۔ آپ مجرم نہیں ہیں۔ آپ وہ شخص ہیں جسے مجرموں کو روکنے کے لیے رکھا گیا ہے۔ پھر بھی، گارڈ ریل (guardrail) دونوں کرداروں کو ناقابلِ امتیاز سمجھتی ہے۔

یہ منظرنامہ معمول بنتا جا رہا ہے۔ جیسے جیسے بڑے AI لیبز بدنیتی پر مبنی غلط استعمال کو روکنے کے لیے حفاظتی پروٹوکولز کو سخت کر رہے ہیں، وہ براہِ راست جائز سائبر سیکیورٹی پیشہ ور افراد کے طریقہ کار سے ٹکرا رہے ہیں۔ اس کا نتیجہ ایک بڑھتے ہوئے تضاد کی صورت میں نکل رہا ہے: وہ ٹولز جنہیں سافٹ ویئر انجینئرنگ کے لیے طاقت بڑھانے والے (force multipliers) کے طور پر فروغ دیا جا رہا ہے، وہ ان ماہرین سے روک لیے جا رہے ہیں جو اہم انفراسٹرکچر کی حفاظت کرتے ہیں۔

حفاظت اور سیکیورٹی کے درمیان رگڑ

بڑے AI ڈویلپرز نے سائبر سیکیورٹی کمیونٹی کو مکمل طور پر نظر انداز نہیں کیا ہے۔ OpenAI Trusted Access for Cyber نامی ایک پروگرام چلاتا ہے۔ Anthropic ایک Cyber Verification Program چلاتا ہے۔ دونوں اس طرح ڈیزائن کیے گئے ہیں کہ تصدیق شدہ صارفین مخصوص انکار کے میکانزم کو نظر انداز کر سکیں تاکہ وہ جائز تحقیق کر سکیں۔ نظریاتی طور پر، یہ دروازے اچھے اور برے کرداروں کو الگ کرتے ہیں۔

عملی طور پر، بہت سے آفینسیو سیکیورٹی محققین اور نیٹ ورک محافظ انہیں بیوروکریٹک رکاوٹوں کے طور پر محسوس کرتے ہیں۔ تصدیقی عمل مبہم ہو سکتا ہے۔ منظوری کے اوقات غیر واضح ہیں۔ قبولیت کے بعد بھی، محققین رپورٹ کرتے ہیں کہ بڑھا ہوا رسائی (elevated access) مختلف ماڈل ورژنز یا بات چیت کے سلسلے (conversation threads) میں ہمیشہ قابلِ بھروسہ طریقے سے کام نہیں کرتا۔ ان ٹیموں کے لیے جو فعال طور پر ہو رہے حملوں کے دوران کمزوریوں کو ٹھیک کرنے (patch) کی دوڑ میں ہیں، یہ رگڑ اہمیت رکھتی ہے۔

واشنگٹن اور سلیکون ویلی کے درمیان تناؤ اس وقت ایک نمایاں موڑ پر پہنچ گیا جب امریکی حکومت نے Anthropic کے Mythos اور Fable ماڈلز پر برآمد کنٹرول (export controls) نافذ کیے۔ یہ پابندیاں ان رپورٹوں کے بعد لگائی گئیں جن میں کہا گیا تھا کہ افراد نے سائبر حملوں میں سہولت فراہم کرنے کے لیے ماڈلز کے حفاظتی گارڈ ریلز کو نظر انداز کیا ہے۔ ریگولیٹرز نے ان سسٹمز کو منفرد طور پر خطرناک برآمد اشیاء کے طور پر سمجھنے کے لیے تیزی سے قدم اٹھایا۔ اس کے بعد سے کنٹرولز کو ختم یا تبدیل کر دیا گیا ہے، لیکن اس واقعے نے ایک واضح پیغام دیا: اعلیٰ صلاحیت والے AI ماڈلز کو عام مقصد کے تکنیکی آلات کے بجائے تیزی سے ممکنہ تباہی پھیلانے والے آلات کے طور پر دیکھا جا رہا ہے۔ ان محافظوں کے لیے جو ان پر انحصار کرتے ہیں، یہ تصور سخت نگرانی، سست رسائی، اور اس بنیادی شک میں تبدیل ہو جاتا ہے کہ سیکیورٹی تحقیق محض ہیکنگ کا دوسرا نام ہے۔

دفاع اور حملہ ناقابلِ تقسیم کیوں ہیں

اس تنازع کا مرکز انتظامی نہیں بلکہ تکنیکی ہے۔ ایک نیٹ ورک کا دفاع کرنے کے لیے درکار صلاحیتیں تقریباً وہی ہیں جو اس پر حملہ کرنے کے لیے درکار ہوتی ہیں۔

NCC Group کے چیف سائنسسٹ کرس اینلی ایک سادہ مثال دیتے ہیں: AI ایک ہتھوڑا ہے۔ آپ اسے گھر بنانے یا کھڑکی توڑنے کے لیے استعمال کر سکتے ہیں۔ خود آلہ فرق نہیں جانتا۔ سائبر سیکیورٹی میں، یہ دوہرا پن ناگزیر ہے۔ جب کوئی ماہر ماڈل سے "اس کوڈ کو ٹھیک کریں" کہتا ہے، تو یہ درخواست ایک دفاعی کارروائی کو متحرک کرتی ہے۔ لیکن وہ استدلال کا عمل جو اصلاح پیدا کرتا ہے—غیر محفوظ فنکشنز کی نشاندہی کرنا، غیر قابلِ اعتماد ان پٹ کا سراغ لگانا، ایگزیکیوشن فلو کا نقشہ بنانا—ناگزیر طور پر یہ ظاہر کر دیتا ہے کہ کمزوری کو کیسے استعمال کیا جا سکتا ہے۔ یہ وضاحت استحصال کے لیے ایک روڈ میپ کے طور پر کام کرتی ہے۔

چونکہ AI سیفٹی ٹیمیں اکثر ماڈلز کو ایسی کسی بھی پرامپٹ کو مسترد کرنے کے لیے تربیت دیتی ہیں جس میں استحصال کی بو آتی ہو، اس لیے یہ سسٹمز اکثر ضرورت سے زیادہ سخت (overcorrect) ہو جاتے ہیں۔ ایک محقق جو صارف کے ان پٹ کو صاف (sanitize) کرنے کا طریقہ پوچھتا ہے اسے جواب مل جاتا ہے۔ ایک محقق جو پوچھتا ہے کہ کیسے ایک...