𝗪𝗵𝘆 𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 𝗜𝘀 𝗔 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗟𝗶𝗮𝗯𝗶𝗹𝗶𝘁𝘆
2027 तक, एंटरप्राइज AI डिप्लॉयमेंट (deployments) में से 40% को प्रॉम्प्ट इंजेक्शन (prompt injection) या एजेंट हाईजैक (agent hijack) की घटनाओं का सामना करना पड़ेगा। यह 2025 की शुरुआत में 5% से भी कम की तुलना में एक बहुत बड़ी वृद्धि है।
ऑर्केस्ट्रेशन लेयर (orchestration layer) एजेंटों को उपयोगी बनाती है। यह उन्हें एक लक्ष्य भी बनाती है।
सिंगापुर की एक लॉजिस्टिक्स फर्म ने हाल ही में $2.3 मिलियन का नुकसान उठाया। एक हमलावर ने एक दुर्भावनापूर्ण (malicious) कैलेंडर आमंत्रण भेजा। इसने एक शेड्यूलिंग एजेंट को बाहरी इनबॉक्स में CRM डेटा भेजने के लिए ट्रिगर कर दिया। मॉडल में कोई खराब कोड नहीं था। इसने निर्देशों का पूरी तरह से पालन किया। समस्या आर्किटेक्चर में थी।
एजेंट केवल चैटबॉट्स नहीं हैं। वे ऐसे टूल हैं जो फाइलें पढ़ते हैं, API कॉल करते हैं और ट्रांजेक्शन (transactions) निष्पादित करते हैं। पारंपरिक सुरक्षा मॉडल यह मानकर चलते हैं कि एक अनुरोध (request) आता है और एक प्रतिक्रिया (response) जाती है। एजेंट इस मॉडल को तोड़ देते हैं।
एक एजेंट जो PDF का सारांश निकाल सकता है और रिफंड सबमिट कर सकता है, वह एक ही रनटाइम (runtime) में तीन ऐप्स के बराबर है। हर टूल कॉल एक जोखिम है। मेमोरी में हर राइट (write) एक जोखिम है। अब हर ईमेल या दस्तावेज़ एक निष्पादन योग्य (executable) कोड है।
सुरक्षित रूप से बनाने के लिए, आपको तीन लेयर्स की आवश्यकता है:
• पहचान (Identity): हर टूल कॉल की उपयोगकर्ता से अलग एक पहचान होनी चाहिए। • उत्पत्ति (Provenance): मेमोरी में हर राइट के लिए मेटाडेटा की आवश्यकता होती है ताकि यह पता चल सके कि वह कहाँ से आया है। • इरादा (Intent): योजना के हर चरण के लिए एक हस्ताक्षरित ऑब्जेक्ट (signed object) की आवश्यकता होती है जिसे डाउनस्ट्रीम सिस्टम सत्यापित कर सकें।
एजेंटों को सीधे प्रोडक्शन API कॉल न करने दें। एक मीडिएटेड टूल लेयर (mediated tool layer) का उपयोग करें। यह लेयर आपके नए फ़ायरवॉल के रूप में कार्य करती है। यह आर्गुमेंट्स (arguments) को मान्य करती है और प्रत्येक सत्र (session) के लिए अनुमतियों (permissions) को सीमित करती है।
अपने एजेंट की मेमोरी पर नज़र रखें। हमलावर समय के साथ एजेंट के व्यवहार को बदलने के लिए ज़हरीले (poisoned) दस्तावेज़ों या ईमेल का उपयोग करते हैं। मेमोरी-पॉइजनिंग (Memory-poisoning) हमले हर साल 300% बढ़ रहे हैं।
कई टीमें अपने वर्तमान पाइपलाइनों में AI थ्रेट मॉडलिंग (threat modeling) जोड़ती हैं। यह पर्याप्त नहीं है। आपको एजेंट रनटाइम में ही सुरक्षा जोड़नी होगी। केवल 19% संगठनों के पास टूल-कॉल विसंगतियों (anomalies) के लिए मॉनिटरिंग है। अधिकांश पुराने लॉग्स पर भरोसा करते हैं जो एजेंट के व्यवहार को पकड़ने में विफल रहते हैं।
अपने एजेंट के साथ एक जूनियर कर्मचारी की तरह व्यवहार करें जिसके पास सिस्टम एक्सेस हो। आप किसी नए कर्मचारी को पहले ही दिन फुल रूट एक्सेस (full root access) नहीं देंगे। अपने एजेंटों के साथ भी ऐसा न करें।
विजेता वे नहीं होंगे जिनके पास सबसे अच्छे डेमो होंगे। वे वे होंगे जो बैंकिंग या स्वास्थ्य सेवा जैसे विनियमित उद्योगों (regulated industries) में छह महीने की सुरक्षा देरी के बिना तैनात (deploy) कर सकेंगे।
अपनी सुरक्षा लेयर्स अभी बनाएं। उल्लंघन (breach) होने के बाद उन्हें ठीक करने की कोशिश न करें।
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi