Microsoft Azure पर एक AI गवर्नेंस फ्रेमवर्क जो वास्तव में काम करता है
एक ऑडिटर एक ही सवाल पूछता है: "मुझे दिखाओ कि यह पॉलिसी रनटाइम पर कहाँ लागू की जा रही है।"
अधिकांश कंपनियाँ इस परीक्षण में विफल हो जाती हैं। वे 40 पन्नों के दस्तावेज़ और रिस्क रजिस्टर सौंप देते हैं। दस्तावेज़ केवल इरादे का वर्णन करते हैं। वे किसी डेवलपर को अप्रूव्ड न किए गए मॉडल का उपयोग करने से नहीं रोकते। वे किसी एजेंट को सब-एजेंट्स (sub-agents) बनाने से नहीं रोकते।
आपकी पॉलिसी बाइंडर और आपके रनिंग सिस्टम के बीच का अंतर ही वह जगह है जहाँ उल्लंघन (breaches) होते हैं।
इसे ठीक करने के लिए, आपको एक अनिवार्य AI गेटवे की आवश्यकता है। यह आपका यूनिवर्सल कंट्रोल प्लेन है। हर मॉडल कॉल और हर एजेंट एक्शन को इसके माध्यम से गुजरना चाहिए।
Microsoft Azure पर, आपको तीन प्लेन्स को जोड़ना होगा:
• Identity (Microsoft Entra): गेटवे हर कॉलर को मॉडल तक पहुँचने से पहले प्रमाणित (authenticate) करता है। • Data (Microsoft Purview): गेटवे PII redaction लागू करता है और उन घटनाओं को लॉग करता है जिन्हें Purview मिस कर सकता है। • Model (Azure AI Foundry): गेटवे मॉडल allowlists और टोकन लिमिट को लागू करता है।
एक अनिवार्य गेटवे तीन ऐसे कार्य करता है जो दस्तावेज़ नहीं कर सकते:
- यह shadow models को खत्म करता है: यदि आप केवल गेटवे के माध्यम से मॉडल एक्सेस की अनुमति देते हैं, तो अप्रूव्ड न किए गए मॉडल कनेक्ट होने में विफल हो जाएंगे।
- यह agent sprawl को नियंत्रित करता है: हर एजेंट एक्शन को ऑथोराइजेशन के लिए एक केंद्रीय बिंदु से होकर गुजरना चाहिए।
- यह निरंतर प्रमाण (continuous evidence) प्रदान करता है: हर कॉल एक ऑडिट इवेंट बन जाती है। अब आपको समीक्षाओं के लिए प्रमाण बनाने की आवश्यकता नहीं है; आप इसे लगातार एकत्र करते हैं।
गवर्नेंस को स्पीड टैक्स (speed tax) न समझें। इसे आर्किटेक्चर के रूप में देखें।
Shadow models को डिटेक्शन की समस्या मानना बंद करें। यह एक राउटिंग निर्णय (routing decision) है। यदि आपका नेटवर्क केवल गेटवे के माध्यम से egress की अनुमति देता है, तो समस्या समाप्त हो जाएगी।
Prompt injection को केवल एक सुरक्षा समस्या मानना बंद करें। यह जवाबदेही (accountability) का मुद्दा है। उच्च-परिणाम वाले कार्यों (high-consequence actions) को LLM लूप से बाहर रखें। महत्वपूर्ण ऑपरेशन्स को ऑथोराइज करने के लिए एक अलग, सीमित पथ (constrained path) का उपयोग करें।
अपना गवर्नेंस तीन चरणों में बनाएं:
- Discovery: ऑडिट-मोड पॉलिसी का उपयोग करें। बिना किसी चीज़ को रोके अपने shadow models और lineage breaks का पता लगाएं।
- Enforced Gates: 'deny' पॉलिसी चालू करें। इवैल्यूएशन गेट्स को अपने CI/CD पाइपलाइन में जोड़ें ताकि नॉन-कंप्लायंट मॉडल डेवलपमेंट के दौरान ही फेल हो जाएं।
- Continuous Evidence: immutable logging का उपयोग करें। पॉइंट-इन-टाइम अप्रूवल की जगह लाइव डेटा का उपयोग करें।
गवर्नेंस आपके कोड में रहती है, आपके फोल्डर्स में नहीं।
Source: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773
Optional learning community: https://t.me/GyaanSetuAi