AI Agent ของคุณควรมีความเป็นอิสระมากแค่ไหน?

ผู้คนพูดถึง Agentic AI ว่าเป็นการแข่งขันเพื่อเพิ่มความเป็นอิสระ (autonomy) ให้มากขึ้น

พวกเขาต้องการเครื่องมือที่มากขึ้น การใช้เหตุผลที่มากขึ้น และความเป็นอิสระที่มากขึ้น

วิศวกรซอฟต์แวร์ไม่ได้ทำงานแบบนั้น เราไม่ได้สร้าง microservices เพียงเพราะมันเป็นที่นิยม แต่เราสร้างระบบที่สร้างสมดุลระหว่างความสามารถและความซับซ้อน

AI agent ก็ต้องการแนวทางแบบเดียวกัน

คำถามไม่ใช่ว่า agent สามารถมีความเป็นอิสระได้มากแค่ไหน แต่คำถามคือ agent ควร มีความเป็นอิสระมากเพียงใด

ความเป็นอิสระคือการตัดสินใจในการออกแบบ ทุกครั้งที่ agent ตัดสินใจ คุณกำลังเพิ่มความรับผิดชอบให้กับมัน

ความเป็นอิสระในระดับสูงช่วยให้ agent ปรับตัวเข้ากับสถานการณ์ใหม่ๆ ได้ ช่วยให้ agent บรรลุเป้าหมายได้โดยไม่ต้องมีคำแนะนำตลอดเวลา

แต่ความเป็นอิสระในระดับสูงก็ทำให้ agent คาดเดาและ debug ได้ยากขึ้น และทำให้ยากต่อการไว้วางใจ

ความเป็นอิสระคือสเปกตรัม (spectrum)

  • ความเป็นอิสระระดับต่ำ: ระบบที่ทำหน้าที่เพียงแค่สร้างข้อความเท่านั้น
  • ความเป็นอิสระระดับกลาง: ระบบที่สามารถแนะนำการดำเนินการและใช้เครื่องมือต่างๆ ได้
  • ความเป็นอิสระระดับสูง: ระบบที่ตัดสินใจได้เองว่าจะบรรลุเป้าหมายอย่างไรโดยอาศัยความช่วยเหลือจากมนุษย์เพียงเล็กน้อย

แต่ละขั้นจะเพิ่มทั้งความสามารถและความซับซ้อน คุณควรหยุดอยู่ที่ระดับที่ปัญหาของคุณต้องการเท่านั้น

ลองพิจารณาผู้ช่วยฝ่าย HR ที่ทำหน้าที่ตอบคำถามเกี่ยวกับนโยบาย การให้สิทธิ์เข้าถึงเพื่อแก้ไขข้อมูลพนักงานจะเพิ่มความเสี่ยงโดยไม่ได้เพิ่มคุณค่ามากนัก

ทีนี้ลองพิจารณา operations agent ที่ทำหน้าที่ตรวจสอบ production incidents มันต้องตรวจสอบ log และค้นหาเอกสารประกอบ มันจำเป็นต้องปรับเปลี่ยนการค้นหาตามสิ่งที่มันพบ ซึ่ง workflow แบบตายตัวจะใช้ไม่ได้ในกรณีนี้ ความเป็นอิสระที่มากขึ้นจะช่วยปรับปรุงโซลูชันนี้ให้ดีขึ้น

ตัวปัญหาจะเป็นตัวกำหนดระดับของความเป็นอิสระ

ระบบ production ที่ประสบความสำเร็จมักจะถูกจำกัดขอบเขตไว้อย่างตั้งใจ สิ่งนี้เรียกว่า bounded autonomy คุณกำหนดขีดจำกัดเพื่อรักษาความน่าเชื่อถือของระบบ

ตัวอย่างของขีดจำกัด:

  • การจำกัดการเข้าถึงเครื่องมือ
  • การจำกัดขอบเขตของงาน
  • การกำหนดให้ต้องมีการอนุมัติจากมนุษย์สำหรับการดำเนินการที่สำคัญ
  • การกำหนดวงเงินการใช้จ่าย
  • การกำหนดเงื่อนไขในการส่งต่อเรื่องให้มนุษย์จัดการ

ข้อจำกัดเหล่านี้จะทำให้ agent ของคุณคาดเดาได้ง่ายขึ้น

ก่อนที่คุณจะมอบความเป็นอิสระให้มากขึ้น ลองถามคำถามเหล่านี้:

  • workflow แบบตายตัวสามารถแก้ปัญหานี้ได้หรือไม่?
  • ขั้นตอนต่อไปขึ้นอยู่กับข้อมูลที่ยังไม่ทราบหรือไม่?
  • จะเกิดอะไรขึ้นหาก agent ทำงานล้มเหลว?
  • คุณสามารถแยกการดำเนินการที่มีความเสี่ยงออกจากกระบวนการใช้เหตุผลที่มีความเสี่ยงต่ำได้หรือไม่?

วิศวกรที่เก่งที่สุดไม่ได้พยายามเพิ่มความเป็นอิสระให้ถึงขีดสุด แต่พวกเขาตัดสินใจได้อย่างแม่นยำว่าความเป็นอิสระควรจะเริ่มที่ตรงไหนและสิ้นสุดที่ตรงไหน

สถาปัตยกรรมที่ดีคือการทำในสิ่งที่จำเป็น และไม่ทำอะไรเกินความจำเป็น

Source: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n