सुरक्षा संशोधक जेक विल्यम्स यांनी या आठवड्यात CUSTODY फ्रेमवर्कचे अनावरण केले, ज्यामुळे कॉर्पोरेट नेटवर्कमध्ये कार्यरत असलेल्या AI एजंट्ससाठी स्पष्ट रनटाइम परवानग्या (runtime permissions) आणि मर्यादा निश्चित करण्याचा मार्ग उद्योगांना उपलब्ध झाला आहे. हे साधन महत्त्वाचे आहे कारण, पारंपारिक सॉफ्टवेअरच्या उलट, AI एजंट्स कोणत्याही स्पष्ट किंवा लागू करण्यायोग्य धोरणाशिवाय (policy) डायनॅमिकली डेटा मिळवू शकतात, सेवांना कॉल करू शकतात आणि मॉडेल्समध्ये बदल करू शकतात—यामुळे एक अशी त्रुटी निर्माण होते ज्याचा फायदा हल्लेखोर आधीच घेऊ लागले आहेत.

AI एजंट्सना कुंपणाची (fence) गरज का आहे

एंटरप्राइझ AI स्टॅक्समध्ये आता चॅट-बॉट्स, शिफारस इंजिन्स (recommendation engines), स्वायत्त निर्णय घेणारे घटक आणि अंतर्गत APIs किंवा तृतीय-पक्ष सेवांमधून डेटा मिळवणारे डझनभर बॅकग्राउंड एजंट्स समाविष्ट आहेत. सध्याचे सुरक्षा संच (security suites) पेरिमिटर फायरवॉल्स, एंडपॉइंट प्रोटेक्शन आणि नेटवर्क सेगमेंटेशनवर लक्ष केंद्रित करतात, परंतु "हा एजंट ग्राहकांचे रेकॉर्ड वाचू शकतो परंतु फायनान्स डेटाबेसमध्ये माहिती लिहू शकत नाही" असे सांगण्यासाठी त्यांच्याकडे कोणतीही प्रमाणित पद्धत नाही. अशा रनटाइम नियंत्रणांच्या अभावामुळे अशा घटना घडल्या आहेत जिथे बाधित (compromised) एजंट्सचा वापर डेटा चोरण्यासाठी किंवा मॉडेल वेट्स (model weights) खराब करण्यासाठी केला गेला आहे.

CUSTODY ही त्रुटी कशी भरून काढते

CUSTODY एक नियम-आधारित भाषा सादर करते जी AI एजंट नेटवर्कशी कनेक्ट झाल्यावर त्याला काय करण्याची परवानगी आहे याचे वर्णन करते. धोरणांमध्ये (Policies) खालील गोष्टी निर्दिष्ट केल्या जाऊ शकतात:

  • संसाधनांचा प्रवेश (Resource access) – एजंट कोणत्या डेटाबेस, फाईल स्टोअर्स किंवा APIs क्वेरी करू शकतो.
  • कृतींच्या मर्यादा (Action limits) – एजंट फक्त वाचू शकतो की लिहू (write), हटवू (delete) किंवा डाउनस्ट्रीम जॉब्स ट्रिगर करू शकतो.
  • एक्झिक्यूशन कॉन्टेक्स्ट (Execution context) – कम्प्युट एन्व्हायरमेंटवरील निर्बंध, जसे की CPU कोटा किंवा कंटेनर आयसोलेशन.

रनटाइममध्ये, हे फ्रेमवर्क एजंटच्या कॉल्सना अडवते (intercept) आणि ठरवलेल्या धोरणांच्या आधारे त्यांची तपासणी करते, ज्यामुळे परिभाषित मर्यादांच्या बाहेर जाणारी कोणतीही क्रिया ब्लॉक केली जाते. यामुळे हायजॅक केलेला एजंट कॉर्पोरेट वातावरणात अनियंत्रितपणे फिरण्यापासून रोखला जातो.

CUSTODY ला सध्याच्या स्टॅक्समध्ये समाविष्ट करणे

हे फ्रेमवर्क सध्याच्या सुरक्षा साधनांसोबत काम करते. ते लोकप्रिय ऑर्केस्ट्रेशन प्लॅटफॉर्म्स, कंटेनर रनटाइम्स आणि API गेटवेमध्ये जोडले जाऊ शकते, परंतु नेमकी प्रक्रिया मूळ एजंट प्लॅटफॉर्मनुसार बदलू शकते. संस्थांनी त्यांचे AI इन्व्हेंटरी मॅप करणे, प्रत्येक प्रकारच्या एजंटसाठी पॉलिसी फाइल्स लिहिणे आणि पूर्ण तैनातीपूर्वी (deployment) एन्फोर्समेंट लेयरची चाचणी घेणे आवश्यक आहे. मॉडेल्स विकसित होत असताना नियम अद्ययावत ठेवण्यासाठी डझनभर एजंट्समध्ये या धोरणांचा विस्तार करण्यासाठी समर्पित कार्यात्मक प्रयत्नांची (operational effort) आवश्यकता असेल.

खबरदारी आणि आव्हाने

टीकाकारांचे म्हणणे आहे की CUSTODY धोरणे स्वयंचलितपणे तयार करत नाही; सुरक्षा टीमला ती मॅन्युअली तयार करावी लागतात, जे श्रमसाध्य असू शकते. जर प्रत्येक कॉलची रिअल-टाइममध्ये तपासणी केली गेली, तर परफॉर्मन्स ओव्हरहेडचा (performance overhead) धोका असतो, विशेषतः हाय-थ्रूपुट इन्फरन्स सेवांसाठी (high-throughput inference services). शेवटी, फ्रेमवर्कची परिणामकारकता व्यापक स्वीकारण्यावर अवलंबून आहे—जर एखाद्या व्हेंडरचा AI प्लॅटफॉर्म आवश्यक हुक्स (hooks) उपलब्ध करून देऊ शकला नाही, तर CUSTODY चे नियंत्रण बायपास केले जाऊ शकते.

पुढे काय पाहावे

  • व्हेंडरची प्रतिक्रिया (Vendor response) – प्रमुख AI प्लॅटफॉर्म प्रदाते CUSTODY-सुसंगत हुक्स समाविष्ट करतील की स्वतःची रनटाइम-पॉलिसी इंजिन्स प्रदान करतील.
  • मानकीकरण (Standardisation) – AI एजंट परवानग्यांसाठी उद्योग-व्यापी मानकांकडे होणारी कोणतीही हालचाल CUSTODY ला एक डी-फॅक्टो बेसलाइन (de-facto baseline) बनवू शकते.
  • कम्युनिटी फीडबॅक (Community feedback) – सुरुवातीचे वापरकर्ते वास्तविक जगातील धोरणांची जटिलता आणि परफॉर्मन्सवरील परिणाम स्पष्ट करतील, ज्यामुळे भविष्यातील आवृत्त्यांना आकार मिळेल.

जे उद्योग AI एजंट्सवर अवलंबून आहेत त्यांनी आताच CUSTODY चे मूल्यमापन केले पाहिजे, ते त्यांच्या सुरक्षा स्टॅकमध्ये कुठे बसते हे मॅप केले पाहिजे आणि AI-चालित हल्ल्यांची पुढची लाट त्यांच्या नेटवर्कवर येण्यापूर्वी धोरणांचे पायलट टेस्टिंग सुरू केले पाहिजे.