AI कोडिंग एजेंट्स नया अटैक सरफेस हैं

आप एक AI एजेंट को कार्य करने की अनुमति देते हैं। यह एक रिपॉजिटरी को क्लोन करता है। यह सेटिंग्स कॉन्फ़िगर करता है। यह कोड निष्पादित करता है। आपने अभी-अभी एक बड़ा सुरक्षा अंतराल (security gap) पैदा कर दिया है।

शोधकर्ताओं ने सुरक्षा को बायपास करने का एक तरीका खोज लिया है। एक GitHub रिपॉजिटरी स्कैनर्स और इंसानों को साफ-सुथरी लग सकती है। यह एक AI एजेंट की जांच में भी पास हो सकती है। फिर भी, इसमें एक दुर्भावनापूर्ण पेलोड (malicious payload) छिपा हो सकता है। यह पेलोड सामान्य सेटअप प्रक्रिया के दौरान चलता है।

यह हमला किसी इंसान को धोखा नहीं देता। यह एजेंट द्वारा अपना काम करने पर निर्भर करता है। एजेंट कोड को क्लोन करता है और उसे स्वचालित रूप से चलाता है। एजेंट की कार्यक्षमता ही इसकी कमजोरी है।

सप्लाई चेन अटैक (Supply chain attacks) कोई नई बात नहीं है। हम typosquatting और दुर्भावनापूर्ण स्क्रिप्ट्स के बारे में जानते हैं। लेकिन AI एजेंट्स इसके पैमाने को बदल देते हैं। एक एजेंट उच्च अनुमतियों (high permissions) के साथ स्वायत्त रूप से काम करता है।

पुराने हमलों में किसी इंसान द्वारा गलती करने की आवश्यकता होती थी। नए हमलों को केवल एजेंट की जांच पास करने की आवश्यकता होती है। एजेंट का ध्यान प्रोजेक्ट को चलाने पर होता है। वे इस बात की पुष्टि करने पर ध्यान नहीं देते कि कोड सुरक्षित है या नहीं।

यह AI हैलुसिनेशन (hallucinations) या प्रॉम्प्ट इंजेक्शन (prompt injections) के बारे में नहीं है। AI खराब नहीं है। यह बिल्कुल वैसे ही काम कर रहा है जैसा इसे बनाया गया है।

असली समस्या भरोसे की है। हम स्वायत्त एजेंटों को पाइपलाइनों और डेवलपर वातावरणों में कोड चलाने की अनुमति देते हैं। हम अक्सर उचित सैंडबॉक्सिंग (sandboxing) या अनुमति सीमाओं को छोड़ देते हैं। हम एजेंट के कार्यों की जांच किए बिना उन पर भरोसा करते हैं।

यदि आप AI कोडिंग एजेंट्स का उपयोग करते हैं, तो उनके व्यवहार की जांच करें:

  • क्या वे बिना पूछे इंस्टॉल स्क्रिप्ट चलाते हैं?
  • क्या वे सेटअप हुक्स (setup hooks) को स्वचालित रूप से निष्पादित करते हैं?
  • आपकी मशीन पर उनके पास क्या अनुमतियाँ हैं?

यदि आप सुरक्षा के क्षेत्र में काम करते हैं, तो एजेंटिक टूल्स (agentic tools) पर नज़र रखें। डेवलपर्स अक्सर आधिकारिक मंजूरी के बिना उनका उपयोग करते हैं। एक एजेंट जो कोड को क्लोन करता है और चलाता है, वह प्रिविलेज एस्केलेशन (privilege escalation) का एक साधन है।

हम सुरक्षा ढांचे (safety frameworks) बनाने की तुलना में स्वायत्त उपकरणों को तेज़ी से तैनात कर रहे हैं। क्षमता (Capability) सुरक्षा से आगे निकल रही है। क्योंकि ये उपकरण स्वायत्त हैं, इसलिए इस अंतराल के परिणाम गंभीर हो सकते हैं।

किसी भी ऐसी पाइपलाइन को उच्च जोखिम (high risk) मानें जो बाहरी कोड को क्लोन करती है और चलाती है। एक AI एजेंट द्वारा 'रन' बटन दबाने से जोखिम नहीं बदलता है। यह केवल उस मानवीय ठहराव को हटा देता है जो गलतियों को पकड़ सकता है।

एजेंट जो निष्पादित करता है, उसकी सुरक्षा का मालिक कौन है? क्या यह डेवलपर है, एजेंट निर्माता है, या होस्ट प्लेटफॉर्म है? अभी तक कोई इसका उत्तर नहीं दे रहा है।

Source: https://dev.to/coridev/ai-coding-agents-are-the-new-attack-surface-nobodys-ready-for-1jf1

Optional learning community: https://t.me/GyaanSetuAi