Microsoft Azure वरील एक प्रभावी AI गव्हर्नन्स फ्रेमवर्क
एक ऑडिटर एकच प्रश्न विचारतो: "ही पॉलिसी रनटाइमला (runtime) कुठे लागू केली जाते ते मला दाखवा."
बहुतेक कंपन्या या चाचणीत अपयशी ठरतात. त्या ४० पानांचे दस्तऐवज आणि रिस्क रजिस्टर्स (risk registers) सादर करतात. दस्तऐवज केवळ हेतू स्पष्ट करतात. ते डेव्हलपरला अनधिकृत मॉडेल वापरण्यापासून रोखू शकत नाहीत. ते एजंटला सब-एजंट्स (sub-agents) तयार करण्यापासून रोखू शकत नाहीत.
तुमच्या पॉलिसी बाइंडर आणि तुमच्या कार्यरत प्रणालीमधील (running system) अंतर हेच डेटा ब्रीच (breach) घडण्याचे ठिकाण आहे.
हे सुधारण्यासाठी, तुम्हाला एका अनिवार्य AI गेटवेची (gateway) गरज आहे. हा तुमचा युनिव्हर्सल कंट्रोल प्लेन (universal control plane) आहे. प्रत्येक मॉडेल कॉल आणि प्रत्येक एजंटची कृती यातूनच पार पडली पाहिजे.
Microsoft Azure वर, तुम्हाला तीन प्लेन्स (planes) जोडणे आवश्यक आहे:
• Identity (Microsoft Entra): मॉडेलपर्यंत पोहोचण्यापूर्वी गेटवे प्रत्येक कॉलरची (caller) प्रमाणीकरण (authentication) करतो. • Data (Microsoft Purview): गेटवे PII redaction लागू करतो आणि Purview कडून सुटणाऱ्या इव्हेंट्सची नोंद (logs) करतो. • Model (Azure AI Foundry): गेटवे मॉडेल अलाऊलिस्ट (allowlists) आणि टोकन मर्यादा (token limits) लागू करतो.
एक अनिवार्य गेटवे तीन अशी कामे करतो जी दस्तऐवज करू शकत नाहीत:
- ते शॅडो मॉडेल्स (shadow models) थांबवते: जर तुम्ही मॉडेल ॲक्सेस फक्त गेटवेद्वारेच दिला, तर अनधिकृत मॉडेल्स कनेक्ट होण्यास असमर्थ ठरतील.
- ते एजंट स्प्रावल (agent sprawl) नियंत्रित करते: प्रत्येक एजंटची कृती अधिकृततेसाठी (authorization) एका मध्यवर्ती बिंदूतूनच जाणे आवश्यक आहे.
- ते सतत पुरावे (continuous evidence) तयार करते: प्रत्येक कॉल एक ऑडिट इव्हेंट बनतो. तुम्हाला आता रिव्ह्यूसाठी पुरावे तयार करण्याची गरज नाही; तुम्ही ते सतत गोळा करत असता.
गव्हर्नन्सकडे (governance) वेगावर लादलेला कर म्हणून पाहू नका. त्याला आर्किटेक्चर (architecture) म्हणून पहा.
शॅडो मॉडेल्सना केवळ शोधण्याची (detection) समस्या म्हणून पाहणे थांबवा. हा राउटिंगचा (routing) निर्णय आहे. जर तुमचे नेटवर्क फक्त गेटवेद्वारेच एग्रेस (egress) करण्यास परवानगी देत असेल, तर ही समस्या आपोआप संपते.
प्रॉम्प्ट इंजेक्शनला (prompt injection) केवळ सुरक्षा समस्या म्हणून पाहणे थांबवा. ही उत्तरदायित्वाची (accountability) समस्या आहे. उच्च-परिणामाच्या (high-consequence) कृती LLM लूपच्या बाहेर ठेवा. महत्त्वाच्या ऑपरेशन्सना अधिकृत करण्यासाठी एक वेगळा आणि मर्यादित मार्ग वापरा.
तुमचे गव्हर्नन्स तीन टप्प्यांत तयार करा:
- डिस्कव्हरी (Discovery): ऑडिट-मोड पॉलिसीज वापरा. काहीही ब्लॉक न करता तुमचे शॅडो मॉडेल्स आणि लिनिएज ब्रेक्स (lineage breaks) शोधा.
- एनफोर्स्ड गेट्स (Enforced Gates): 'डिनाय' (deny) पॉलिसीज सुरू करा. इव्हॅल्युएशन गेट्स तुमच्या CI/CD पाइपलाइनमध्ये जोडा, जेणेकरून नॉन-कम्प्लायंट (non-compliant) मॉडेल्स डेव्हलपमेंट दरम्यानच फेल होतील.
- सततचे पुरावे (Continuous Evidence): इम्युटेबल लॉगिंग (immutable logging) वापरा. ठराविक वेळेच्या मंजुरीऐवजी (point-in-time approvals) थेट लाइव्ह डेटा वापरा.
गव्हर्नन्स तुमच्या कोडमध्ये असते, तुमच्या फोल्डर्समध्ये नाही.
Source: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773
Optional learning community: https://t.me/GyaanSetuAi