سائبر سیکیورٹی ماہرین نے Anthropic کے Fable اور Mythos ماڈلز پر امریکی پابندی کے خلاف احتجاج کیا

76 معروف سائبر سیکیورٹی ماہرین کا ایک اتحاد امریکی حکومت کے حالیہ ایکسپورٹ کنٹرول آرڈر کے خلاف خطرے کی گھنٹی بجا رہا ہے، جس کا ہدف Anthropic کے جدید ترین AI ماڈلز ہیں۔ اس گروپ کا کہنا ہے کہ ان ٹولز تک رسائی کو محدود کر کے، حکومت نادانستہ طور پر ڈیجیٹل محافظوں کو بے بس کر رہی ہے جبکہ مخالفین ترقی جاری رکھے ہوئے ہیں۔

تنازع: قومی سلامتی بمقابلہ دفاعی صلاحیت

تناؤ اس وقت شروع ہوا جب امریکی حکومت نے غیر ظاہر کردہ قومی سلامتی کے خدشات کا حوالہ دیتے ہوئے Anthropic کے Fable اور Mythos ماڈلز پر ایکسپورٹ کنٹرول آرڈر جاری کیا۔ اس حکم کی تعمیل میں، Anthropic نے ان ماڈلز تک دنیا بھر میں رسائی معطل کر دی ہے۔

Mythos ماڈل کو اصل میں کمزوریوں (vulnerabilities) کی نشاندہی کے لیے اتنی اعلیٰ سطح کی صلاحیتوں کے ساتھ ڈیزائن کیا گیا تھا کہ Anthropic نے شروع میں 15 ممالک کے تقریباً 150 تنظیموں کے ایک منتخب گروپ تک اس کی رسائی کو محدود رکھا تھا۔ عوامی سطح پر دستیاب ورژن، Fable، میں حیاتیات، کیمیا اور سائبر سیکیورٹی میں غلط استعمال کو روکنے کے لیے سخت حفاظتی اقدامات (guardrails) شامل کرنے کا ارادہ تھا۔ تاہم، حکومت کی مداخلت نے انٹرنیٹ کو محفوظ بنانے کے ذمہ دار لوگوں کے لیے ان طاقتور ٹولز کے استعمال کو مؤثر طریقے سے روک دیا ہے۔

"Jailbreak" تنازع اور Amazon کی رپورٹ

Anthropic کا کہنا ہے کہ وائٹ ہاؤس کا یہ حکم "jailbreaking" سے متعلق خدشات کے نتیجے میں ہو سکتا ہے—جو کہ حفاظتی رکاوٹوں کو نظر انداز کرنے کے لیے استعمال ہونے والے طریقے ہیں۔ مبینہ طور پر یہ خدشہ Amazon کے محققین کے ایک غیر عوامی تحقیقی مقالے سے پیدا ہوا ہے۔

مقالے میں یہ تجویز دی گئی تھی کہ صارفین Mythos کی سطح کی صلاحیتوں تک رسائی کے لیے Fable کی حفاظتی پابندیوں کو نظر انداز کر سکتے ہیں۔ تاہم، سائبر سیکیورٹی ماہرین، بشمول Katie Moussouris (Luta Security کی بانی)، کا کہنا ہے کہ یہ AI کی افادیت کے بارے میں ایک بنیادی غلط فہمی ہے۔ Moussouris کا دعویٰ ہے کہ جس "jailbreak" کا ذکر کیا گیا وہ محض ماڈل کا اپنا مطلوبہ کام انجام دینا تھا: یعنی معلوم کمزوریوں پر مشتمل اوپن سورس کوڈ کو درست کرنا۔

Moussouris کے مطابق، AI سے کسی بگ (bug) کو ٹھیک کرنے، پیچ (patch) کی وضاحت کرنے اور ٹیسٹ لکھنے کا کہنا سیکیورٹی کی خلاف ورزی نہیں ہے؛ بلکہ یہ "تلاش، اصلاح اور ٹیسٹ کا چکر" (find, fix, and test loop) ہے جو جدید دفاعی سیکیورٹی کی تعریف کرتا ہے۔ ان طرزِ عمل کو روکنے کی کوشش کرنا بنیادی طور پر سافٹ ویئر کے تحفظ کے لیے ماڈل کی صلاحیت کو مفلوج کر دے گا۔

اہم دستخط کنندگان اور صنعت کے اثرات

اس کھلے خط کی حمایت سیکیورٹی کمیونٹی کے بڑے ناموں نے کی ہے، جن میں فیس بک کے سابق سیکیورٹی چیف Alex Stamos، Bugcrowd کے بانی Casey Ellis، اور مشہور ماہرِ رمز نگاری Jon Callas شامل ہیں۔ ان کا استدلال ایک اہم عدم توازن پر مبنی ہے: اگر دفاع کرنے والوں کو جدید ترین LLMs تک رسائی سے محروم رکھا جائے جبکہ مخالفین غیر محدود ماڈلز کا استعمال کریں، تو عالمی سیکیورٹی کی صورتحال کمزور ہو جائے گی۔

ماہرین نے یہ بھی نشاندہی کی ہے کہ Fable میں محسوس کی جانے والی کمزوری صرف Anthropic تک محدود نہیں ہے۔ خط میں یہ تجویز دی گئی ہے کہ اسی طرح کی "کمزوریاں" OpenAI کے GPT-5.5، Anthropic کے اپنے Claude Opus 4.8 اور Sonnet، اور یہاں تک کہ Kimi 2.7 جیسے بین الاقوامی ماڈلز میں بھی پائی جا سکتی ہیں۔

یہ گروپ ایک جمہوری اور سائنس پر مبنی ریگولیٹری عمل کا مطالبہ کر رہا ہے جو وسیع پیمانے پر ردعمل کے طور پر لگائے جانے والے پابندیوں کے بجائے شفاف تحقیق پر انحصار کرتا ہو، کیونکہ ایسی پابندیاں فائدے کے بجائے نقصان زیادہ پہنچا سکتی ہیں۔

اہم نکات