กรอบการทำงานด้านการกำกับดูแล AI บน Microsoft Azure ที่ใช้งานได้จริง
ผู้ตรวจสอบถามคำถามเดียว: "ช่วยแสดงให้ผมดูหน่อยว่านโยบายนี้ถูกบังคับใช้ตอนรันไทม์ (runtime) ตรงไหน"
บริษัทส่วนใหญ่สอบตกในบททดสอบนี้ พวกเขามักจะยื่นเอกสารหนา 40 หน้าและทะเบียนความเสี่ยง (risk registers) เอกสารเหล่านี้บอกเพียงแค่ความตั้งใจ แต่มันไม่ได้หยุดนักพัฒนาจากการใช้โมเดลที่ไม่ได้รับอนุญาต และไม่ได้หยุดเอเจนต์ (agent) จากการสร้างเอเจนต์ย่อย (sub-agents) ขึ้นมา
ช่องว่างระหว่างเล่มนโยบายกับระบบที่กำลังทำงานอยู่ คือจุดที่การละเมิดเกิดขึ้น
เพื่อแก้ไขปัญหานี้ คุณจำเป็นต้องมี AI gateway ที่เป็นภาคบังคับ นี่คือระนาบการควบคุมสากล (universal control plane) ของคุณ ทุกการเรียกใช้โมเดลและทุกการกระทำของเอเจนต์จะต้องผ่านช่องทางนี้
บน Microsoft Azure คุณต้องเชื่อมต่อ 3 ระนาบเข้าด้วยกัน:
• Identity (Microsoft Entra): gateway จะทำการยืนยันตัวตนของผู้เรียกใช้ทุกคนก่อนที่จะเข้าถึงโมเดล • Data (Microsoft Purview): gateway จะทำการปกปิดข้อมูลส่วนบุคคล (PII redaction) และบันทึกเหตุการณ์ที่ Purview อาจมองข้ามไป • Model (Azure AI Foundry): gateway จะบังคับใช้รายการโมเดลที่อนุญาต (allowlists) และจำกัดจำนวน token
gateway ที่เป็นภาคบังคับสามารถทำหน้าที่ 3 อย่างที่เอกสารทำไม่ได้:
- กำจัด shadow models: หากคุณอนุญาตให้เข้าถึงโมเดลผ่าน gateway เท่านั้น โมเดลที่ไม่ได้รับอนุญาตก็จะเชื่อมต่อไม่สำเร็จโดยปริยาย
- ควบคุมการแพร่กระจายของเอเจนต์ (agent sprawl): ทุกการกระทำของเอเจนต์ต้องส่งผ่านจุดศูนย์กลางเพื่อขออนุมัติ
- สร้างหลักฐานอย่างต่อเนื่อง: ทุกการเรียกใช้จะกลายเป็นเหตุการณ์สำหรับการตรวจสอบ (audit event) คุณไม่จำเป็นต้องสร้างหลักฐานขึ้นมาใหม่เพื่อการตรวจสอบอีกต่อไป แต่คุณจะเก็บรวบรวมมันอย่างต่อเนื่อง
อย่ามองว่าการกำกับดูแลคือ "ภาษีความเร็ว" (speed tax) แต่จงมองว่ามันคือ "สถาปัตยกรรม" (architecture)
เลิกมองว่า shadow models เป็นปัญหาด้านการตรวจจับ แต่มันคือการตัดสินใจด้านการกำหนดเส้นทาง (routing decision) หากเครือข่ายของคุณอนุญาตให้ข้อมูลขาออก (egress) ผ่าน gateway เท่านั้น ปัญหาก็จะหมดไป
เลิกมองว่า prompt injection เป็นเพียงปัญหาด้านความปลอดภัย แต่มันคือปัญหาด้านความรับผิดชอบ (accountability) จงแยกการกระทำที่มีความเสี่ยงสูงออกจากการทำงานของ LLM และใช้เส้นทางแยกต่างหากที่มีการควบคุมอย่างเข้มงวดเพื่ออนุมัติการดำเนินการที่สำคัญ
สร้างการกำกับดูแลของคุณใน 3 ระยะ:
- การค้นหา (Discovery): ใช้นโยบายในโหมดตรวจสอบ (audit-mode) เพื่อค้นหา shadow models และจุดที่สายลำดับข้อมูล (lineage) ขาดตอน โดยไม่ไปขัดขวางการทำงานใดๆ
- ประตูบังคับ (Enforced Gates): เปิดใช้งานนโยบายการปฏิเสธ (deny policies) และเชื่อมต่อประตูการประเมิน (evaluation gates) เข้ากับ CI/CD pipeline ของคุณ เพื่อให้โมเดลที่ไม่เป็นไปตามข้อกำหนดล้มเหลวตั้งแต่ขั้นตอนการพัฒนา
- หลักฐานต่อเนื่อง (Continuous Evidence): ใช้การบันทึกข้อมูลที่ไม่สามารถแก้ไขได้ (immutable logging) และเปลี่ยนจากการอนุมัติเป็นครั้งคราวมาเป็นการใช้ข้อมูลแบบเรียลไทม์แทน
การกำกับดูแลอยู่ในโค้ดของคุณ ไม่ใช่ในโฟลเดอร์ของคุณ
Source: https://dev.to/az365ai/an-ai-governance-framework-on-microsoft-azure-that-actually-works-3773
Optional learning community: https://t.me/GyaanSetuAi