𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
२०२७ पर्यंत, ४०% एंटरप्राइझ AI उपयोजने (deployments) प्रॉम्प्ट इंजेक्शन किंवा एजंट हायजॅकच्या घटनांचा सामना करतील. २०२५ च्या सुरुवातीला हे प्रमाण ५% पेक्षा कमी होते, त्या तुलनेत ही मोठी वाढ आहे.
ऑर्केस्ट्रेशन लेयर (orchestration layer) एजंट्सना उपयुक्त बनवते. पण तेच त्यांना लक्ष्याचा (target) विषय देखील बनवते.
सिंगापूरमधील एका लॉजिस्टिक कंपनीचे अलीकडे २.३ दशलक्ष डॉलर्सचे नुकसान झाले. एका हल्लेखोराने एक घातक कॅलेंडर आमंत्रण (malicious calendar invite) पाठवले. यामुळे शेड्युलिंग एजंटने CRM डेटा बाहेरील इनबॉक्समध्ये पाठवला. मॉडेलमध्ये कोणताही खराब कोड नव्हता. त्याने सूचनांचे तंतोतंत पालन केले. समस्या आर्किटेक्चरमध्ये होती.
एजंट्स म्हणजे केवळ चॅटबॉट्स नाहीत. ते फाईल्स वाचणारे, APIs कॉल करणारे आणि व्यवहार (transactions) पूर्ण करणारे टूल्स आहेत. पारंपारिक सुरक्षा मॉडेल्स असे गृहीत धरतात की एक विनंती (request) येते आणि एक प्रतिसाद (response) जातो. एजंट्स हे मॉडेल मोडीत काढतात.
जो एजंट PDF चा सारांश काढू शकतो आणि रिफंड सबमिट करू शकतो, तो एकाच रनटाइममध्ये तीन ॲप्ससारखा असतो. प्रत्येक टूल कॉल (tool call) एक धोका आहे. मेमरीमधील प्रत्येक नोंद (memory write) एक धोका आहे. आता प्रत्येक ईमेल किंवा दस्तऐवज हा 'एक्झिक्युटेबल कोड' (executable code) आहे.
सुरक्षितपणे बांधण्यासाठी, तुम्हाला तीन लेयर्सची आवश्यकता आहे:
• ओळख (Identity): प्रत्येक टूल कॉलची ओळख वापरकर्त्यापेक्षा वेगळी असणे आवश्यक आहे. • उगम (Provenance): मेमरीमधील प्रत्येक नोंदीसाठी ती कुठून आली हे दर्शवण्यासाठी मेटाडेटा (metadata) आवश्यक आहे. • हेतू (Intent): योजनेच्या प्रत्येक टप्प्यासाठी एक 'साइंड ऑब्जेक्ट' (signed object) आवश्यक आहे, ज्याची पडताळणी डाउनस्ट्रीम सिस्टम्स करू शकतील.
एजंट्सना थेट प्रोडक्शन APIs कॉल करू देऊ नका. एक मध्यस्थ टूल लेयर (mediated tool layer) वापरा. हा लेयर तुमच्या नवीन फायरवॉलप्रमाणे काम करतो. तो आर्ग्युमेंट्सची (arguments) पडताळणी करतो आणि प्रत्येक सेशनसाठी परवानग्या मर्यादित करतो.
तुमच्या एजंटच्या मेमरीवर लक्ष ठेवा. हल्लेखोर कालांतराने एजंटचे वर्तन बदलण्यासाठी 'पॉइझन्ड' (poisoned) दस्तऐवज किंवा ईमेलचा वापर करतात. मेमरी-पॉइझनिंग हल्ले दरवर्षी ३००% ने वाढत आहेत.
अनेक टीम्स त्यांच्या सध्याच्या पाइपलाईन्समध्ये AI थ्रेट मॉडेलिंग (threat modeling) जोडतात. पण ते पुरेसे नाही. तुम्हाला एजंट रनटाइममध्येच सुरक्षा जोडणे आवश्यक आहे. केवळ १९% संस्थांकडे टूल-कॉलमधील विसंगतींसाठी (anomalies) मॉनिटरिंग आहे. बहुतेक संस्था जुन्या लॉग्सवर अवलंबून असतात, ज्यामध्ये एजंटच्या वर्तनाचा समावेश नसतो.
तुमच्या एजंटला सिस्टम ॲक्सेस असलेल्या ज्युनियर कर्मचाऱ्याप्रमाणे वागवा. तुम्ही एखाद्या नवीन कर्मचाऱ्याला पहिल्याच दिवशी पूर्ण 'रूट ॲक्सेस' (root access) देणार नाही. तुमच्या एजंट्सबाबतही तसे करू नका.
विजेते ते नसतील ज्यांच्याकडे सर्वोत्तम डेमो असतील. तर ते असतील जे बँकिंग किंवा आरोग्यसेवा यांसारख्या नियंत्रित उद्योगांमध्ये सहा महिन्यांचा सुरक्षा विलंब न लावता उपयोजन (deploy) करू शकतील.
तुमचे सुरक्षा लेयर्स आताच तयार करा. डेटा चोरी किंवा सुरक्षा उल्लंघन (breach) झाल्यानंतर ते सुधारण्याचा प्रयत्न करू नका.
ऐच्छिक शिक्षण समुदाय: https://t.me/GyaanSetuAi