מסגרת ממשל AI ב-Microsoft Azure שעובדת באמת

מבקר שואל שאלה אחת: "הראה לי היכן המדיניות הזו נאכפת בזמן ריצה (runtime)."

רוב החברות נכשלות במבחן הזה. הן מגישות מסמכים באורך 40 עמודים ורישומי סיכונים. מסמכים מתארים כוונה. הם לא מונעים ממפתח להשתמש במודל לא מאושר. הם לא מונעים מסוכן (agent) להקים סוכנים משניים (sub-agents).

הפער בין חוברת המדיניות שלך לבין המערכת הפועלת הוא המקום שבו מתרחשות הפרצות.

כדי לתקן זאת, אתה זקוק ל-AI gateway מחייב. זהו מישור הבקרה (control plane) האוניברסלי שלך. כל קריאה למודל וכל פעולה של סוכן חייבת לעבור דרכו.

ב-Microsoft Azure, עליך לחבר שלושה מישורים:

• Identity (Microsoft Entra): ה-gateway מאמת כל קורא (caller) לפני שהוא מגיע למודל. • Data (Microsoft Purview): ה-gateway מחיל הסתרת PII ומתעד אירועים ש-Purview עלול להחמיץ. • Model (Azure AI Foundry): ה-gateway אוכף רשימות מודלים מאושרים (allowlists) ומגבלות טוקנים (token limits).

gateway מחייב מבצע שלוש משימות שמסמכים אינם יכולים לבצע:

  • הוא מחסל shadow models: אם תאפשר גישה למודלים רק דרך ה-gateway, מודלים לא מאושרים פשוט ייכשלו בחיבור.
  • הוא מכיל agent sprawl: כל פעולת סוכן חייבת לעבור דרך נקודה מרכזית לצורך אישור (authorization).
  • הוא מייצר ראיות רציפות: כל קריאה הופכת לאירוע ביקורת (audit event). אתה כבר לא מייצר ראיות עבור סקירות; אתה אוסף אותן ללא הרף.

אל תתייחס לממשל (governance) כאל "מס מהירות". התייחס אליו כאל ארכיטקטורה.

הפסק להתייחס ל-shadow models כאל בעיית זיהוי. זוהי החלטת ניתוב (routing). אם הרשת שלך מאפשרת יציאה (egress) רק דרך ה-gateway, הבעיה נעלמת.

הפסק להתייחס ל-prompt injection כאל סוגיה אבטחתית בלבד. זוהי סוגיית אחריות (accountability). שמור על פעולות בעלות השלכות גבוהות מחוץ ללופ ה-LLM. השתמש במסלול נפרד ומוגבל כדי לאשר פעולות חשובות.

בנה את הממשל שלך בשלושה שלבים:

  1. Discovery: השתמש במדיניות במצב ביקורת (audit-mode). מצא את ה-shadow models שלך ואת שבירות ה-lineage שלך מבלי לחסום דבר.
  2. Enforced Gates: הפעל מדיניות חסימה (deny policies). חבר שערים של הערכה (evaluation gates) לתוך ה-CI/CD pipeline שלך, כך שמודלים שאינם עומדים בתקן ייכשלו במהלך הפיתוח.
  3. Continuous Evidence: השתמש ברישום (logging) בלתי ניתן לשינוי (immutable). החלף אישורים נקודתיים בנתונים חיים.

ממשל חי בקוד שלך, לא בתיקיות שלך.

מקור: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi