آپ کے AI ایجنٹ کا آرکیٹیکچر ایک سیکیورٹی خطرہ کیوں ہے
2027 تک، اینٹرپرائز AI کے 40% تعینات کردہ نظاموں کو پرامپٹ انجیکشن (prompt injection) یا ایجنٹ ہائی جیکنگ کے واقعات کا سامنا کرنا پڑے گا۔ یہ 2025 کے اوائل میں 5% سے بھی کم کے مقابلے میں ایک بہت بڑا اضافہ ہے۔
آرکیسٹریشن لیئر (orchestration layer) ایجنٹس کو مفید بناتی ہے۔ یہ انہیں ہدف بھی بناتی ہے۔
سنگاپور کی ایک لاجسٹکس فرم کو حال ہی میں 2.3 ملین ڈالر کا نقصان ہوا۔ ایک متاثرہ کیلنڈر انوائٹ نے شیڈولنگ ایجنٹ کو دھوکہ دیا۔ ایجنٹ نے CRM ریکارڈز ایک حملہ آور کو بھیج دیے۔ ماڈل میں کوئی خراب کوڈ نہیں تھا۔ اس نے ہدایات پر مکمل طور پر عمل کیا۔ مسئلہ آرکیٹیکچر میں تھا۔
ایجنٹس محض چیٹ بوٹس نہیں ہیں۔ یہ ایسے نظام ہیں جو ٹولز استعمال کرتے ہیں، فائلیں پڑھتے ہیں اور ٹرانزیکشنز انجام دیتے ہیں۔ روایتی سیکیورٹی یہ فرض کرتی ہے کہ ایک درخواست آتی ہے اور ایک جواب جاتا ہے۔ ایجنٹس اس ماڈل کو توڑ دیتے ہیں۔
ایک ایجنٹ جو ای میلز ڈرافٹ کرتا ہے اور ریفنڈز جمع کرواتا ہے، وہ ایک ہی رن ٹائم (runtime) میں تین ایپس کی طرح کام کرتا ہے۔ ہر ٹول کال ایک خطرہ ہے۔ میموری میں ہر تحریر ایک خطرہ ہے۔ ہر ای میل یا دستاویز ایک ایگزیکیوٹیبل کوڈ (executable code) ہے۔
محفوظ ٹیمیں تین تہوں والا پیٹرن استعمال کرتی ہیں:
- Identity (شناخت): ہر ٹول کال کے لیے صارف سے الگ ایک شناخت کی ضرورت ہوتی ہے۔
- Provenance (ماخذ): میموری میں ہر تحریر کے لیے اس کے ماخذ کو ظاہر کرنے والے میٹا ڈیٹا (metadata) کی ضرورت ہوتی ہے۔
- Verification (تصدیق): ہر پلان اسٹیپ کے لیے ڈاؤن اسٹریم ایگزیکیوشن (downstream execution) کے لیے ایک دستخط شدہ آبجیکٹ کی ضرورت ہوتی ہے۔
ایجنٹس کو کبھی بھی براہ راست پروڈکشن APIs کو کال نہیں کرنا چاہیے۔ اس کے بجائے ایک میڈی ایٹڈ ٹول لیئر (mediated tool layer) استعمال کریں۔ یہ لیئر آرگیومنٹس (arguments) کی تصدیق کرتی ہے، اجازتوں (permissions) کو محدود کرتی ہے اور آڈٹ لاگز (audit logs) تخلیق کرتی ہے۔ اس لیئر کو اپنے نئے فائر وال (firewall) کے طور پر سمجھیں۔
میموری ایک اور بڑا خطرہ ہے۔ حملہ آور ایجنٹ کی میموری کو تبدیل کرنے کے لیے زہریلے (poisoned) دستاویزات یا ای میلز کا استعمال کرتے ہیں۔ یہ وقت کے ساتھ ایجنٹ کے رویے کو بدل دیتا ہے۔ میموری پوائزننگ (memory poisoning) کے حملے ہر سال 300% بڑھ رہے ہیں۔
زیادہ تر ٹیمیں موجودہ پائپ لائنز میں AI تھریٹ ماڈلنگ (threat modeling) کا اضافہ کرتی ہیں۔ وہ ایجنٹ رن ٹائم (agent runtime) میں خود سیکیورٹی شامل نہیں کرتیں۔ صرف 19% تنظیموں کے پاس ٹول کال کی بے قاعدگیوں (anomalies) کے لیے مانیٹرنگ موجود ہے۔
ایجنٹس کے ساتھ سافٹ ویئر جیسا سلوک کرنا بند کریں۔ ان کے ساتھ سسٹم تک رسائی رکھنے والے جونیئر ملازمین کی طرح پیش آئیں۔ آپ کسی نئے ملازم کو پہلے ہی دن روٹ ایکسیس (root access) نہیں دیں گے۔ اپنے ایجنٹس کے ساتھ بھی ایسا نہ کریں۔
جیتنے والوں کے پاس سب سے زیادہ چمک دمک والے ڈیمو نہیں ہوں گے۔ ان کے پاس ایسے ایجنٹس ہوں گے جو بینکنگ یا ہیلتھ کیئر میں سیکیورٹی ریویوز (security reviews) سے گزر سکیں۔ ان تین تہوں کو ابھی بنائیں۔ کسی خلاف ورزی (breach) کے بعد انہیں جوڑنے کی کوشش نہ کریں۔
وہ کون سا ایک آرکیٹیکچرل فیصلہ ہے جو آپ نے حال ہی میں کیا تھا جسے آپ تبدیل کر دیں اگر آپ پہلے دن سے ایجنٹ کی حفاظت پر توجہ دیتے؟
اختیاری تعلیمی کمیونٹی: https://t.me/GyaanSetuAi