मैंने एक रैंडम AI प्लगइन पर भरोसा किया
Cisco के शोधकर्ताओं ने 2026 की शुरुआत में एक बड़ी सुरक्षा खामी का पता लगाया। OpenClaw मार्केटप्लेस का एक प्लगइन सामान्य लग रहा था। इसने वादे के अनुसार काम किया। लेकिन इसने गुप्त रूप से संवेदनशील डेटा भी चुरा लिया। इसने आपकी अनुमति के बिना आपका डेटा एक बाहरी सर्वर पर भेज दिया।
एक OpenClaw डेवलपर ने कहा कि यदि आप कमांड लाइन (command line) को नहीं समझते हैं, तो यह टूल आपके लिए बहुत खतरनाक है।
तीन महीने बाद, चीनी सरकार ने सरकारी एजेंसियों के OpenClaw के उपयोग पर प्रतिबंध लगा दिया। उन्होंने डेटा लीक और संसाधनों की समस्याओं का हवाला दिया।
2026 में असली जोखिम AI द्वारा खराब कोड लिखना नहीं है। आप रिव्यूज (reviews) के साथ खराब कोड को ठीक कर सकते हैं। असली जोखिम ऑटोनॉमस एजेंट्स (autonomous agents) हैं। इन एजेंट्स के पास फाइलों तक पहुंच और आपके पाइपलाइन्स (pipelines) पर नियंत्रण होता है। जब आप सो रहे होते हैं, तब वे रात के 2 बजे निर्णय लेते हैं।
डेटा एक बढ़ती समस्या को दर्शाता है: • AI-जनरेटेड कोड डिप्लॉयमेंट के 45% मामलों में समस्याएं आईं। • 48% कंपनियां AI कोडिंग से बढ़ते सुरक्षा जोखिमों की रिपोर्ट करती हैं। • ये आंकड़े उन टीमों से आए हैं जहाँ इंसान अभी भी काम की समीक्षा करते हैं।
किसी एजेंट को काम करने की अनुमति देने से पहले आपको इन नियमों का पालन करना चाहिए:
सतर्क स्वायत्तता (cautious autonomy) का उपयोग करें। संभव हो तो न्यूनतम अनुमतियों (permissions) के साथ शुरुआत करें। स्थिर व्यवहार देखने के बाद ही अधिक एक्सेस जोड़ें।
ऑडिट लॉग (audit logs) अनिवार्य करें। एजेंट की हर कार्रवाई का रिकॉर्ड होना चाहिए। जब चीजें विफल होती हैं, तो जांच करने के लिए आपको इन लॉग्स की आवश्यकता होती है।
रिवर्सिबिलिटी (reversibility) के लिए डिज़ाइन करें। चेकपॉइंट्स पर Git commits का उपयोग करें। आप एजेंट द्वारा किए गए किसी भी बदलाव को वापस (undo) करने में सक्षम होने चाहिए।
थर्ड-पार्टी स्किल्स (third-party skills) की बारीकी से जांच करें। एक खराब पैकेज ऐप को नुकसान पहुंचाता है। एक खराब एजेंट स्किल आपके पूरे सिस्टम को नुकसान पहुंचाती है।
जवाबदेही (accountability) बनाए रखें। यदि कोई एजेंट पुल रिक्वेस्ट (pull request) खोलता है, तो उस रिक्वेस्ट के लिए आप जिम्मेदार हैं। यदि कोई एजेंट कोड कमिट करता है, तो वह कोड आपका है।
कल मैं उस टूल के बारे में चर्चा करूँगा जिसने कोड जनरेशन पर मेरे नजरिए को बदल दिया और उन AI एजेंट्स के बारे में जिन्हें आपको 2026 में जानना आवश्यक है।