آپ کا AI ایجنٹ آرکیٹیکچر ایک سیکیورٹی خطرہ کیوں ہے
2027 تک، اینٹرپرائز AI کے 40% تعینات (deployments) پرومپٹ انجیکشن یا ایجنٹ ہائی جیک کے واقعات کا سامنا کریں گے۔ یہ 2025 کے اوائل میں 5% سے بھی کم کے مقابلے میں ایک بہت بڑا اضافہ ہے۔
آرکیسٹریشن لیئر (orchestration layer) ایجنٹس کو مفید بناتی ہے۔ یہ انہیں ایک ہدف بھی بناتی ہے۔
سنگاپور کی ایک لاجسٹکس فرم کو حال ہی میں 2.3 ملین ڈالر کا نقصان ہوا۔ ایک حملہ آور نے کیلنڈر کا ایک بدنیتی پر مبنی دعوت نامہ (malicious calendar invite) بھیجا۔ اس نے ایک شیڈولنگ ایجنٹ کو CRM ڈیٹا کسی بیرونی ان باکس میں بھیجنے پر مجبور کر دیا۔ ماڈل میں کوئی خراب کوڈ نہیں تھا۔ اس نے ہدایات پر مکمل طور پر عمل کیا۔ مسئلہ آرکیٹیکچر میں تھا۔
ایجنٹس محض چیٹ بوٹس نہیں ہیں۔ وہ ایسے ٹولز ہیں جو فائلیں پڑھتے ہیں، APIs کو کال کرتے ہیں اور ٹرانزیکشنز (transactions) مکمل کرتے ہیں۔ روایتی سیکیورٹی ماڈلز یہ فرض کرتے ہیں کہ ایک درخواست آتی ہے اور ایک جواب جاتا ہے۔ ایجنٹس اس ماڈل کو توڑ دیتے ہیں۔
ایک ایجنٹ جو PDF کا خلاصہ کر سکتا ہے اور ریفنڈ جمع کروا سکتا ہے، وہ ایک ہی رن ٹائم (runtime) میں تین ایپس کے برابر ہے۔ ہر ٹول کال ایک خطرہ ہے۔ میموری میں ہر تحریر (write) ایک خطرہ ہے۔ اب ہر ای میل یا دستاویز ایک ایگزیکیوٹیبل کوڈ (executable code) ہے۔
محفوظ طریقے سے تعمیر کرنے کے لیے، آپ کو تین تہوں (layers) کی ضرورت ہے:
• شناخت (Identity): ہر ٹول کال کی صارف سے الگ ایک شناخت ہونی چاہیے۔ • ماخذ (Provenance): میموری میں ہر تحریر کے ساتھ میٹا ڈیٹا ہونا چاہیے جو یہ ظاہر کرے کہ وہ کہاں سے آئی ہے۔ • ارادہ (Intent): منصوبے کے ہر مرحلے کے لیے ایک دستخط شدہ آبجیکٹ (signed object) کی ضرورت ہے جسے ڈاؤن اسٹریم سسٹم تصدیق کر سکیں۔
ایجنٹس کو براہ راست پروڈکشن APIs کال کرنے کی اجازت نہ دیں۔ ایک میڈی ایٹڈ ٹول لیئر (mediated tool layer) استعمال کریں۔ یہ لیئر آپ کے نئے فائر وال کے طور پر کام کرتی ہے۔ یہ آرگیومنٹس (arguments) کی تصدیق کرتی ہے اور ہر سیشن کے لیے اجازتوں (permissions) کو محدود کرتی ہے۔
اپنے ایجنٹ کی میموری پر نظر رکھیں۔ حملہ آور وقت کے ساتھ ایجنٹ کے رویے کو تبدیل کرنے کے لیے زہریلے (poisoned) دستاویزات یا ای میلز کا استعمال کرتے ہیں۔ میموری پوائزننگ (memory-poisoning) کے حملے ہر سال 300% بڑھ رہے ہیں۔
بہت سی ٹیمیں اپنے موجودہ پائپ لائنز میں AI تھریٹ ماڈلنگ شامل کر رہی ہیں۔ یہ کافی نہیں ہے۔ آپ کو ایجنٹ رن ٹائم (agent runtime) میں خود سیکیورٹی شامل کرنی ہوگی۔ صرف 19% تنظیموں کے پاس ٹول کال کی بے قاعدگیوں (anomalies) کے لیے مانیٹرنگ موجود ہے۔ زیادہ تر پرانے لاگز پر انحصار کرتے ہیں جو ایجنٹ کے رویے کو نظر انداز کر دیتے ہیں۔
اپنے ایجنٹ کے ساتھ ایک ایسے جونیئر ملازم کی طرح پیش آئیں جس کے پاس سسٹم تک رسائی ہو۔ آپ کسی نئے ملازم کو پہلے ہی دن مکمل روٹ ایکسیس (root access) نہیں دیں گے۔ اپنے ایجنٹس کے ساتھ بھی ایسا نہ کریں۔
فاتح وہ نہیں ہوں گے جن کے پاس بہترین ڈیمو ہوں گے۔ بلکہ وہ ہوں گے جو بینکنگ یا ہیلتھ کیئر جیسی ریگولیٹڈ صنعتوں میں چھ ماہ کی سیکیورٹی تاخیر کے بغیر تعینات (deploy) ہو سکیں۔
اپنی سیکیورٹی لیئرز ابھی بنائیں۔ کسی سیکیورٹی بریک (breach) کے بعد انہیں ٹھیک کرنے کی کوشش نہ کریں۔
اختیاری سیکھنے کی کمیونٹی: https://t.me/GyaanSetuAi