Mfumo wa Usimamizi wa AI kwenye Microsoft Azure Unaofanya Kazi

Mkaguzi huuliza swali moja: "Nionyeshe mahali ambapo sera hii inatekelezwa wakati wa utendaji (runtime)."

Makampuni mengi hushindwa kwenye jaribio hili. Huwasilisha nyaraka za kurasa 40 na rejista za hatari. Nyaraka zinaelezea nia. Hazimzuia mwanatengenezaji programu (developer) kutumia modeli isiyoidhinishwa. Hazimzuia wakala (agent) kuanzisha wakala wadogo (sub-agents).

Pengo kati ya fungu lako la sera na mfumo wako unaofanya kazi ndipo uvunjifu hutokea.

Ili kurekebisha hili, unahitaji lango la AI la lazima (mandatory AI gateway). Hii ndiyo sehemu yako ya udhibiti ya ulimwengu wote (universal control plane). Kila wito wa modeli na kila kitendo cha wakala lazima kipite kupitia hiyo.

Kwenye Microsoft Azure, lazima uunganishe sehemu tatu:

• Utambulisho (Microsoft Entra): Lango linathibitisha kila mtumiaji kabla hawajafikia modeli. • Data (Microsoft Purview): Lango linatumia ubadilishaji wa PII (PII redaction) na kunakili matukio ambayo Purview inaweza kuyakosa. • Modeli (Azure AI Foundry): Lango linatekeleza orodha ya modeli zinazoruhusiwa (allowlists) na mipaka ya tokeni.

Lango la lazima hutekeleza kazi tatu ambazo nyaraka haziwezi:

  • Linazuia modeli za siri (shadow models): Ikiwa unaruhusu ufikiaji wa modeli kupitia lango pekee, modeli zisizoidhinishwa zitashindwa tu kuunganishwa.
  • Linadhibiti upanuzi wa wakala (agent sprawl): Kila kitendo cha wakala lazima kipite kwenye kituo kikuu kwa ajili ya uidhinishaji.
  • Linatoa ushahidi endelevu: Kila wito unakuwa tukio la ukaguzi. Hutengenezi tena ushahidi kwa ajili ya mapitio; unaukusanya kila wakati.

Usichukulie usimamizi kama kodi ya kasi. Ichukulie kama usanifu (architecture).

Acha kuchukulia modeli za siri kama tatizo la utambuzi. Ni uamuzi wa uelekezaji (routing decision). Ikiwa mtandao wako unaruhusu tu upitishaji wa nje (egress) kupitia lango, tatizo hilo litatoweka.

Acha kuchukulia prompt injection kama suala la usalama tu. Ni suala la uwajibikaji. Weka vitendo vyenye matokeo makubwa nje ya mzunguko wa LLM. Tumia njia tofauti na iliyodhibitiwa kuidhinisha operesheni muhimu.

Jenga usimamizi wako katika awamu tatu:

  1. Ugunduzi: Tumia sera za hali ya ukaguzi (audit-mode). Tafuta modeli zako za siri (shadow models) na mivunjiko ya asili (lineage breaks) bila kuzuia chochote.
  2. Milango ya Lazima: Washa sera za kukataa (deny policies). Unganisha milango ya tathmini kwenye mfumo wako wa CI/CD ili modeli zisizozingatia kanuni zishindwe wakati wa uendelezaji.
  3. Ushahidi Endelevu: Tumia urekodi usiobadilika (immutable logging). Badilisha uidhinishaji wa wakati fulani na data ya moja kwa moja.

Usimamizi unaishi kwenye kodi yako, si kwenye folda zako.

Chanzo: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773

Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi