Microsoft Azure پر ایک AI گورننس فریم ورک جو واقعی کام کرتا ہے
ایک آڈیٹر ایک سوال پوچھتا ہے: "مجھے دکھائیں کہ یہ پالیسی رن ٹائم (runtime) پر کہاں نافذ کی جا رہی ہے۔"
زیادہ تر کمپنیاں اس ٹیسٹ میں ناکام ہو جاتی ہیں۔ وہ 40 صفحات پر مشتمل دستاویزات اور رسک رجسٹرز (risk registers) تھما دیتے ہیں۔ دستاویزات صرف ارادے بیان کرتی ہیں۔ وہ کسی ڈویلپر کو غیر منظور شدہ ماڈل استعمال کرنے سے نہیں روک سکتیں۔ وہ کسی ایجنٹ کو سب-ایجنٹس (sub-agents) بنانے سے نہیں روک سکتیں۔
آپ کے پالیسی بائنڈر اور آپ کے چلتے ہوئے سسٹم کے درمیان جو خلا ہے، وہیں سے خلاف ورزیاں (breaches) ہوتی ہیں۔
اسے ٹھیک کرنے کے لیے، آپ کو ایک لازمی AI گیٹ وے (gateway) کی ضرورت ہے۔ یہ آپ کا یونیورسل کنٹرول پلین (universal control plane) ہے۔ ہر ماڈل کال اور ہر ایجنٹ ایکشن کو اس کے ذریعے گزرنا چاہیے۔
Microsoft Azure پر، آپ کو تین پلینز (planes) کو جوڑنا ہوگا:
• Identity (Microsoft Entra): گیٹ وے ہر کالر کی ماڈل تک پہنچنے سے پہلے تصدیق (authenticate) کرتا ہے۔ • Data (Microsoft Purview): گیٹ وے PII ریڈیکشن (redaction) کا اطلاق کرتا ہے اور ان واقعات کو لاگ (log) کرتا ہے جو شاید Purview سے رہ جائیں۔ • Model (Azure AI Foundry): گیٹ وے ماڈل الاؤ لسٹ (allowlists) اور ٹوکن کی حدود (token limits) کو نافذ کرتا ہے۔
ایک لازمی گیٹ وے تین ایسے کام انجام دیتا ہے جو دستاویزات نہیں کر سکتیں:
- یہ شیڈو ماڈلز (shadow models) کو ختم کرتا ہے: اگر آپ ماڈل تک رسائی صرف گیٹ وے کے ذریعے فراہم کرتے ہیں، تو غیر منظور شدہ ماڈلز محض کنیکٹ ہونے میں ناکام ہو جائیں گے۔
- یہ ایجنٹ پھیلاؤ (agent sprawl) کو روکتا ہے: ہر ایجنٹ ایکشن کو اجازت (authorization) کے لیے ایک مرکزی مقام سے گزرنا چاہیے۔
- یہ مسلسل ثبوت فراہم کرتا ہے: ہر کال ایک آڈٹ ایونٹ بن جاتی ہے۔ اب آپ ریویوز کے لیے ثبوت تیار نہیں کرتے؛ بلکہ آپ انہیں مسلسل جمع کرتے ہیں۔
گورننس کو رفتار پر ٹیکس کے طور پر نہ سمجھیں۔ اسے آرکیٹیکچر (architecture) کے طور پر دیکھیں۔
شیڈو ماڈلز کو محض ڈیٹیکشن (detection) کا مسئلہ سمجھنا بند کریں۔ یہ روٹنگ (routing) کا فیصلہ ہے۔ اگر آپ کا نیٹ ورک صرف گیٹ وے کے ذریعے ایگریس (egress) کی اجازت دیتا ہے، تو مسئلہ ختم ہو جاتا ہے۔
پرامپٹ انجیکشن (prompt injection) کو محض ایک سیکیورٹی کا مسئلہ سمجھنا بند کریں۔ یہ جوابدہی (accountability) کا مسئلہ ہے۔ زیادہ اثر انگیز (high-consequence) اقدامات کو LLM لوپ سے باہر رکھیں۔ اہم آپریشنز کی اجازت دینے کے لیے ایک الگ اور محدود راستہ استعمال کریں۔
اپنی گورننس کو تین مراحل میں بنائیں:
- Discovery: آڈٹ موڈ پالیسیوں کا استعمال کریں۔ کسی بھی چیز کو روکے بغیر اپنے شیڈو ماڈلز اور لائنج بریکس (lineage breaks) کا پتہ لگائیں۔
- Enforced Gates: ڈینی (deny) پالیسیاں آن کریں۔ ایویلیوایشن گیٹس (evaluation gates) کو اپنے CI/CD پائپ لائن میں شامل کریں تاکہ غیر مطابقت پذیر ماڈلز ڈویلپمنٹ کے دوران ہی ناکام ہو جائیں۔
- Continuous Evidence: غیر متبدل لاگنگ (immutable logging) کا استعمال کریں۔ مخصوص وقت کی منظوریوں (point-in-time approvals) کی جگہ لائیو ڈیٹا کا استعمال کریں۔
گورننس آپ کے کوڈ میں ہوتی ہے، آپ کے فولڈرز میں نہیں۔
Source: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773
Optional learning community: https://t.me/GyaanSetuAi