𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
२०२७ पर्यंत, ४०% एंटरप्राइझ AI उपयोजनांना (deployments) प्रॉम्प्ट इंजेक्शन किंवा एजंट हायजॅकच्या घटनांचा सामना करावा लागेल. २०२५ च्या सुरुवातीला हे प्रमाण ५% पेक्षा कमी होते, त्या तुलनेत ही मोठी वाढ आहे.
ऑर्केस्ट्रेशन लेयर (orchestration layer) एजंट्सना उपयुक्त बनवते. पण तेच त्यांना लक्ष्यामध्येही (targets) आणते.
सिंगापूरमधील एका लॉजिस्टिक कंपनीचे अलीकडे २.३ दशलक्ष डॉलर्सचे नुकसान झाले. एका हॅक झालेल्या कॅलेंडर आमंत्रणामुळे शेड्यूलिंग एजंटची फसवणूक झाली. त्या एजंटने CRM रेकॉर्ड्स एका अटॅकरला पाठवले. मॉडेलमध्ये कोणताही चुकीचा कोड नव्हता. त्याने सूचनांचे तंतोतंत पालन केले. समस्या आर्किटेक्चरमध्ये होती.
एजंट्स म्हणजे केवळ चॅटबॉट्स नाहीत. ते अशी प्रणाली आहेत जी टूल्स वापरतात, फाइल्स वाचतात आणि व्यवहारांची (transactions) अंमलबजावणी करतात. पारंपारिक सुरक्षा प्रणाली असे गृहीत धरते की एक विनंती (request) येते आणि एक प्रतिसाद (response) जातो. एजंट्स हे मॉडेल मोडीत काढतात.
ईमेल ड्राफ्ट करणारा आणि रिफंड सबमिट करणारा एजंट एकाच रनटाइममध्ये तीन ॲप्ससारखा काम करतो. प्रत्येक टूल कॉल (tool call) एक जोखीम आहे. मेमरीमध्ये प्रत्येक नोंद (memory write) एक जोखीम आहे. प्रत्येक ईमेल किंवा दस्तऐवज हा एक्झिक्युटेबल कोड (executable code) असतो.
सुरक्षित टीम्स तीन-स्तरीय पॅटर्नचा वापर करतात:
- Identity (ओळख): प्रत्येक टूल कॉलसाठी वापरकर्त्यापेक्षा वेगळी ओळख असणे आवश्यक आहे.
- Provenance (उगम): मेमरीमधील प्रत्येक नोंदीसाठी तिचा उगम दर्शवण्यासाठी मेटाडेटा असणे आवश्यक आहे.
- Verification (पडताळणी): प्लॅनच्या प्रत्येक टप्प्यासाठी डाउनस्ट्रीम एक्झिक्यूशनसाठी (downstream execution) स्वाक्षरी केलेल्या ऑब्जेक्टची आवश्यकता असते.
एजंट्सनी कधीही थेट प्रोडक्शन APIs कॉल करू नयेत. त्याऐवजी एक 'मिडिएटेड टूल लेयर' (mediated tool layer) वापरा. हा लेयर आर्ग्युमेंट्सची (arguments) पडताळणी करतो, परवानग्या मर्यादित (scopes permissions) करतो आणि ऑडिट लॉग्स तयार करतो. या लेयरला तुमचा नवीन फायरवॉल समजा.
मेमरी ही आणखी एक मोठी जोखीम आहे. अटॅकर एजंटची मेमरी बदलण्यासाठी 'पॉइझन्ड' (poisoned) दस्तऐवज किंवा ईमेलचा वापर करतात. यामुळे कालांतराने एजंटच्या वर्तनात बदल होतो. मेमरी पॉइझनिंग अटॅक्समध्ये दरवर्षी ३००% वाढ होत आहे.
बहुतेक टीम्स त्यांच्या अस्तित्वात असलेल्या पाइपलाइनमध्ये AI थ्रेट मॉडेलिंग (threat modeling) जोडतात. परंतु, त्या एजंट रनटाइममध्ये स्वतः सुरक्षा जोडत नाहीत. केवळ १९% संस्थांकडे टूल-कॉलमधील विसंगतींसाठी (anomalies) मॉनिटरिंग उपलब्ध आहे.
एजंट्सना सॉफ्टवेअरप्रमाणे वागवणे थांबवा. त्यांना सिस्टम ॲक्सेस असलेल्या ज्युनिअर कर्मचाऱ्यांप्रमाणे वागवा. तुम्ही एखाद्या नवीन कर्मचाऱ्याला पहिल्याच दिवशी 'रूट ॲक्सेस' (root access) देणार नाही. तुमच्या एजंट्सबाबतही असे करू नका.
विजेत्यांकडे सर्वात भपकेबाज डेमो नसतील. त्यांच्याकडे असे एजंट्स असतील जे बँकिंग किंवा आरोग्य सेवा क्षेत्रातील सुरक्षा पुनरावलोकनांमध्ये (security reviews) यशस्वी होतील. हे तीन लेयर्स आताच तयार करा. सुरक्षा भंग (breach) झाल्यानंतर ते सुधारण्याचा प्रयत्न करू नका.
तुम्ही अलीकडे घेतलेला असा कोणता आर्किटेक्चरल निर्णय आहे, जो जर तुम्ही पहिल्या दिवसापासून एजंट सुरक्षिततेवर लक्ष केंद्रित केले असते, तर बदलला असता?
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi