ความปลอดภัยของ AI Agent ของคุณ ขึ้นอยู่กับความปลอดภัยของเครื่องมือที่มันใช้เท่านั้น
คุณใช้เวลามากมายในการเสริมความแข็งแกร่งให้กับ AI agent ของคุณ ทั้งการกำหนดขอบเขตสิทธิ์ (scope permissions) การทำ sandbox สำหรับโค้ด และการเฝ้าดูผลลัพธ์ (outputs)
แต่แล้วเมื่อ agent โหลดเครื่องมือจากบุคคลที่สาม (third-party tool) ขึ้นมา งานด้านความปลอดภัยที่คุณทำมาทั้งหมดก็ล้มเหลวทันที
ความปลอดภัยของ agent ของคุณจะเท่ากับความปลอดภัยของ agent และเครื่องมืออื่นๆ ที่มันเรียกใช้เท่านั้น เพราะมันใช้ registry, identity plane และ gateway ร่วมกับ agent ตัวอื่นๆ ความล้มเหลวเพียงจุดเดียวในเครื่องมือหนึ่งอาจแพร่กระจายไปทั่วทั้งระบบของคุณได้
ทีมส่วนใหญ่มักจะป้องกันเฉพาะตัว agent แต่กลับลืมป้องกันระบบนิเวศ (ecosystem) จงใช้ 6 กลยุทธ์นี้เพื่อปกป้องโครงสร้างพื้นฐานของคุณ:
ใช้ลายนิ้วมือดิจิทัล (digital fingerprints): เครื่องมืออาจดูปลอดภัยในวันจันทร์ แต่อาจกลายเป็นอันตรายในวันพฤหัสบดี จงระบุเวอร์ชันที่แน่นอน (pin versions) และใช้ค่า hash ของคำอธิบายเครื่องมือ (tool description) และ schema ตรวจสอบลายนิ้วมือนี้ทุกครั้งที่เครื่องมือถูกโหลด หากลายนิ้วมือเปลี่ยนไป ให้หยุดการทำงานของเครื่องมือนั้นทันที
ป้องกันการวางยาเครื่องมือ (tool poisoning): คำอธิบายของเครื่องมือคือช่องทางในการส่งคำสั่งไปยังโมเดล เครื่องมือที่เป็นอันตรายอาจใช้คำอธิบายเพื่อกระตุ้นให้เกิด prompt injection จงปฏิบัติกับ metadata ของเครื่องมือเหมือนกับเป็นข้อมูลนำเข้าที่เป็นอันตราย (hostile input) โดยการสแกนหาตัวอักษรที่ซ่อนอยู่, คอมเมนต์ HTML หรือคำสั่งอย่างเช่น "ignore previous orders"
หยุดความสับสนเรื่องชื่อ: เซิร์ฟเวอร์ที่เป็นอันตรายมักใช้ชื่อที่คล้ายกับชื่อที่เชื่อถือได้ เช่น send_emai1 แทนที่จะเป็น send_email จงทำเครื่องหมายแจ้งเตือนชื่อที่ซ้ำซ้อนกันเกือบทั้งหมด และกำหนด namespace ให้กับทุกเครื่องมือตามตัวตนของเซิร์ฟเวอร์ที่ได้รับการตรวจสอบแล้วเพื่อหลีกเลี่ยงความสับสน
สร้าง gateway เพียงหนึ่งเดียว: ส่งทราฟฟิกทั้งหมดผ่านจุดควบคุม (choke point) ที่สามารถตรวจสอบได้เพียงจุดเดียว gateway นี้จะต้องทำการยืนยันตัวตนผู้เรียกใช้ (authenticate callers), สแกนการตอบกลับ (scan responses) และจำกัดอัตราการใช้งาน (rate-limit) หาก gateway ตรวจพบข้อผิดพลาด จะต้องปฏิเสธคำขอนั้นทันที อย่าเพียงแค่บันทึก log แล้วปล่อยให้ทำงานต่อไป
สร้างปุ่มหยุดฉุกเฉิน (kill switch) ที่ใช้งานได้จริง: ปุ่ม kill switch ส่วนใหญ่มักจะหยุดแค่ agent หลักเท่านั้น ซึ่งจะทำให้ sub-agents และเซสชันของเครื่องมือยังคงทำงานอยู่ สัญญาณหยุดที่แท้จริงจะต้องส่งไปถึง sub-agent ทุกตัว และทำให้ทุกเซสชันอยู่ในสถานะที่ปลอดภัย
ทดสอบระบบความปลอดภัยของคุณ: ปุ่ม kill switch จะไร้ประโยชน์หากคุณไม่เคยทดสอบมัน จงทำการซ้อมแผนเผชิญเหตุเพื่อให้แน่ใจว่า sub-agents จะหยุดทำงานจริงๆ เมื่อคุณกดปุ่มหยุด
จงปฏิบัติกับเครื่องมือ AI เหมือนกับ software dependencies โดยใช้หลักการดูแลความปลอดภัยแบบเดียวกัน นั่นคือการ pin, sign, fingerprint และ verify
วันนี้คุณมีวิธีการตรวจสอบเครื่องมือที่ agent ของคุณโหลดอย่างไร? และคุณจะตรวจพบเครื่องมือหรือไม่หากมันมีการเปลี่ยนแปลงหลังจากที่คุณอนุมัติไปแล้ว?
Source: https://dev.to/brennhill/your-ai-agent-is-only-as-secure-as-the-tools-and-agents-it-calls-53p7
Optional learning community: https://t.me/GyaanSetuAi