جب AI سائبر سیکیورٹی کا ہتھیار بن جائے

Anthropic کے Mythos ماڈلز نے سیکیورٹی کی دنیا کو بدل کر رکھ دیا ہے۔ یہ صرف بگ (bugs) کی وضاحت نہیں کرتے، بلکہ ناواقف کوڈ میں نئی کمزوریوں کو تلاش کرتے ہیں اور ان کا فائدہ اٹھاتے ہیں۔

یہ صلاحیت حملہ آوروں (attackers) اور دفاع کرنے والوں (defenders) کے درمیان توازن کو بدل دیتی ہے۔ Anthropic نے غیر محدود Mythos 5 ماڈل کو ماہرین کے ایک چھوٹے سے گروپ تک محدود رکھا ہے۔ عوام کے لیے Fable 5 دستیاب ہے۔ اس ورژن میں حفاظتی اقدامات (safeguards) موجود ہیں جو زیادہ خطرے والے سائبر سیکیورٹی پرامپٹس (prompts) کو روک دیتے ہیں۔

خطرہ حقیقی ہے۔ ایک ایسا ماڈل جو بگ تلاش کرتا ہے، دونوں فریقین کی مدد کرتا ہے۔ ایک دفاع کرنے والا اسے اپنے کوڈ پر استعمال کرتا ہے، جبکہ ایک حملہ آور اسے دوسروں کے کوڈ پر استعمال کرتا ہے۔

حملہ آور حفاظتی اقدامات کی پرواہ نہیں کرتے۔ وہ اس وقت پرانے اسمارٹ کنٹریکٹس (smart contracts) میں کمزوریوں کو تلاش کرنے کے لیے AI کا استعمال کر رہے ہیں۔ اگر آپ قیمتی کوڈ لانچ کرتے ہیں، تو آپ کو یہ فرض کر لینا چاہیے کہ حملہ آور آپ کی خامیوں کو تلاش کرنے کے لیے AI کا استعمال کر رہے ہیں۔

موجودہ دفاعی حکمت عملی میں ایک خامی ہے۔ حفاظتی اقدامات ایک جائز آڈٹ اور حملے کے درمیان فرق نہیں کر سکتے۔ اگر آپ کا پرامپٹ پرخطر نظر آئے، تو AI آپ کو بتائے بغیر کم معیار کا جواب دے سکتا ہے۔ یہ عوامی ماڈل کو دفاع کرنے والوں کے لیے ایک غیر موثر آلے میں بدل دیتا ہے۔

میں AI کی وجہ سے کم محتاط نہیں ہوتا، بلکہ میں زیادہ منظم ہو جاتا ہوں۔ میرا طریقہ کار یہ ہے:

AI سیکیورٹی کے کام کو غیر ضروری نہیں بناتا، بلکہ یہ معیار کو بلند کرتا ہے۔ آپ کو یہ فرض کر لینا چاہیے کہ حملہ آور پہلے ہی آپ کے کوڈ پر ماڈل چلا چکا ہے۔

ایک آڈیٹر جو AI استعمال کرنے سے انکار کرتا ہے، وہ نقصان میں رہتا ہے۔ آپ کو AI سے لیس حملہ آور کا مقابلہ AI سے لیس دفاع کے ساتھ کرنا ہوگا۔ اپنے کوڈ پر ان ٹولز کا استعمال کریں، ان کی حدود کو سمجھیں، اور اپنے انسانی فیصلے (human judgment) کو برقرار رکھیں۔

خوف کے ساتھ ردعمل نہ دیں۔ ان ٹولز کا استعمال کر کے پہلے اپنے بگ خود تلاش کرنے کے ذریعے جواب دیں۔

ماخذ: https://dev.to/pavelespitia/when-mythos-spooked-the-security-world-ai-that-finds-and-exploits-vulnerabilities-2fak

اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi