سیکیورٹی ریسرچر جیک ولیمز نے اس ہفتے CUSTODY فریم ورک کا انکشاف کیا، جس نے اداروں کو ان AI ایجنٹس کے لیے واضح رن ٹائم (runtime) اجازت نامے اور حدود مقرر کرنے کا طریقہ فراہم کیا ہے جو کارپوریٹ نیٹ ورکس کے اندر کام کرتے ہیں۔ یہ ٹول اس لیے اہم ہے کیونکہ روایتی سافٹ ویئر کے برعکس، AI ایجنٹس متحرک طور پر ڈیٹا حاصل کر سکتے ہیں، سروسز کو کال کر سکتے ہیں اور ماڈلز میں تبدیلی کر سکتے ہیں—یہ سب کسی واضح اور قابلِ نفاذ پالیسی کے بغیر ہوتا ہے—جس سے ایک ایسا خلا پیدا ہو جاتا ہے جسے حملہ آور پہلے ہی استعمال کرنا شروع کر چکے ہیں۔

AI ایجنٹس کو باڑ (fence) کی ضرورت کیوں ہے

انٹرپرائز AI اسٹیکس میں اب چیٹ بوٹس، ریکمنڈیشن انجن، خود مختار فیصلہ ساز اور درجنوں بیک گراؤنڈ ایجنٹس شامل ہیں جو اندرونی APIs یا تھرڈ پارٹی سروسز سے ڈیٹا نکالتے ہیں۔ موجودہ سیکیورٹی سویٹس (suites) کا محور پیرامیٹر فائر والز، اینڈ پوائنٹ پروٹیکشن اور نیٹ ورک سیگمنٹیشن ہے، لیکن ان میں یہ کہنے کا کوئی معیاری طریقہ نہیں ہے کہ "یہ ایجنٹ کسٹمر کے ریکارڈ پڑھ سکتا ہے لیکن فنانس ڈیٹا بیس میں کچھ لکھ نہیں سکتا۔" اس طرح کے رن ٹائم کنٹرولز کی عدم موجودگی کے نتیجے میں پہلے ہی ایسے واقعات پیش آ چکے ہیں جہاں سمجھوتہ شدہ (compromised) ایجنٹس کو ڈیٹا چوری کرنے یا ماڈل ویٹس (model weights) کو خراب کرنے کے لیے استعمال کیا گیا۔

CUSTODY اس خلا کو کیسے پر کرتا ہے

CUSTODY ایک رول بیسڈ (rule-based) زبان متعارف کرواتا ہے جو یہ بیان کرتی ہے کہ نیٹ ورک سے منسلک ہونے کے بعد ایک AI ایجنٹ کو کیا کرنے کی اجازت ہے۔ پالیسیاں درج ذیل چیزیں متعین کر سکتی ہیں:

  • وسائل تک رسائی (Resource access) – ایجنٹ کن ڈیٹا بیس، فائل اسٹورز یا APIs سے معلومات حاصل کر سکتا ہے۔
  • عمل کی حدود (Action limits) – آیا ایجنٹ صرف پڑھ سکتا ہے، یا لکھ بھی سکتا ہے، ڈیلیٹ کر سکتا ہے یا ڈاؤن اسٹریم جابز کو ٹرگر کر سکتا ہے۔
  • ایگزیکیوشن سیاق و سباق (Execution context) – کمپیوٹ انوائرمنٹ پر پابندیاں، جیسے CPU کوٹہ یا کنٹینر آئسولیشن (container isolation)۔

رن ٹائم پر، یہ فریم ورک ایجنٹ کی کالز کو روکتا ہے اور انہیں مقررہ پالیسی کے مطابق چیک کرتا ہے، اور کسی بھی ایسے آپریشن کو بلاک کر دیتا ہے جو طے شدہ حدود سے باہر ہو۔ یہ ایک ہائی جیک شدہ ایجنٹ کو کارپوریٹ ماحول میں بلا روک ٹوک گھومنے سے روکتا ہے۔

CUSTODY کو موجودہ اسٹیکس میں شامل کرنا

یہ فریم ورک موجودہ سیکیورٹی ٹولز کے ساتھ مل کر کام کرتا ہے۔ یہ مقبول آرکیسٹریشن پلیٹ فارمز، کنٹینر رن ٹائمز اور API گیٹ ویز کے ساتھ منسلک ہو سکتا ہے، لیکن درست اقدامات بنیادی ایجنٹ پلیٹ فارم کے لحاظ سے مختلف ہوتے ہیں۔ اداروں کو اپنے AI انوینٹری کا نقشہ بنانا چاہیے، ہر قسم کے ایجنٹ کے لیے پالیسی فائلیں لکھنی چاہئیں، اور مکمل تعیناتی سے پہلے نفاذ کی تہہ (enforcement layer) کا تجربہ کرنا چاہیے۔ ماڈلز کے ارتقاء کے ساتھ قوانین کو اپ ٹو ڈیٹ رکھنے کے لیے درجنوں ایجنٹس پر ان پالیسیوں کو پھیلانے کے لیے ایک وقف شدہ آپریشنل کوشش کی ضرورت ہوگی۔

احتیاطی تدابیر اور مخالفت

نقادوں کا کہنا ہے کہ CUSTODY خودکار طور پر پالیسیاں تیار نہیں کرتا؛ سیکیورٹی ٹیموں کو انہیں دستی طور پر تیار کرنا پڑتا ہے، جو کہ محنت طلب کام ہو سکتا ہے۔ اگر ہر کال کا ریئل ٹائم میں معائنہ کیا جائے تو کارکردگی پر بوجھ (performance overhead) پڑنے کا بھی خطرہ ہے، خاص طور پر ہائی تھرو پٹ انفرنس سروسز کے لیے۔ آخر میں، فریم ورک کی تاثیر وسیع پیمانے پر اپنائے جانے پر منحصر ہے—اگر کسی وینڈر کا AI پلیٹ فارم ضروری ہکس (hooks) فراہم نہیں کر سکتا، تو CUSTODY کے کنٹرولز کو نظر انداز کیا جا سکتا ہے۔

آگے کیا نظر آئے گا

  • وینڈر کا ردعمل (Vendor response) – آیا بڑے AI پلیٹ فارم فراہم کنندگان CUSTODY کے ہم آہنگ ہکس شامل کریں گے یا اپنے خود کے رن ٹائم پالیسی انجن پیش کریں گے۔
  • معیاریকরণ (Standardisation) – AI ایجنٹ کی اجازتوں کے لیے صنعت گیر وضاحتوں کی طرف کوئی بھی پیش رفت CUSTODY کو ایک ڈی فیکٹو (de-facto) معیار بنا سکتی ہے۔
  • کمیونٹی فیڈ بیک (Community feedback) – ابتدائی صارفین حقیقی دنیا کی پالیسی کی پیچیدگیوں اور کارکردگی پر اثرات کو ظاہر کریں گے، جو مستقبل کے ورژنز کی تشکیل میں مدد دے گا۔

وہ ادارے جو AI ایجنٹس پر انحصار کرتے ہیں انہیں اب CUSTODY کا جائزہ لینا چاہیے، یہ دیکھنا چاہیے کہ یہ ان کے سیکیورٹی اسٹیک میں کہاں فٹ بیٹھتا ہے، اور AI سے ہونے والے حملوں کی اگلی لہر سے پہلے پالیسیوں کا تجربہ شروع کر دینا چاہیے۔