เอเจนต์ AI ไม่ได้ต้องการหน่วยความจำที่มากขึ้น แต่ต้องการการเรียกคืนข้อมูลที่มีการควบคุม (Governed Recall)

คนส่วนใหญ่คิดว่าเอเจนต์ AI ต้องการหน่วยความจำที่มากขึ้นเพื่อให้ทำงานได้ดีขึ้น พวกเขาแนะนำให้เพิ่มประวัติการแชท พวกเขาแนะนำให้ขยายหน้าต่างบริบท (context windows) ให้ใหญ่ขึ้น พวกเขาแนะนำให้เพิ่มพื้นที่จัดเก็บเวกเตอร์ (vector storage)

แต่หน่วยความจำที่มากขึ้นมักจะทำให้เอเจนต์มีความน่าเชื่อถือน้อยลง เอเจนต์เริ่มใช้ข้อสันนิษฐานที่ล้าสมัย มันปฏิบัติกับบริบทเก่าราวกับว่าเป็นข้อเท็จจริงในปัจจุบัน มันนำความชอบของผู้ใช้มาปะปนกับหลักฐานที่ชัดเจน

ปัญหาไม่ใช่เรื่องที่ว่าเอเจนต์จะจำได้มากแค่ไหน ปัญหาคือการตัดสินใจว่าเอเจนต์ได้รับอนุญาตให้เรียกคืนข้อมูลอะไรได้บ้าง

นี่คือปัญหาด้านวิศวกรรมระบบ ไม่ใช่ปัญหาด้านสติปัญญา

การดึงข้อมูล (Retrieval) ไม่ใช่การกำกับดูแล (Governance) ระบบการดึงข้อมูลจะค้นหาข้อมูลที่มีลักษณะคล้ายกับคำสั่งค้นหา (query) แต่ระบบการเรียกคืนข้อมูลที่มีการควบคุม (governed recall system) จะตัดสินว่าข้อมูลนั้นปลอดภัยที่จะนำมาใช้งานหรือไม่

นโยบายการเรียกคืนข้อมูลที่ดีควรตั้งคำถามเหล่านี้:

  • ข้อมูลนี้ยังเป็นปัจจุบันอยู่หรือไม่?
  • ใครได้รับอนุญาตให้เห็นข้อมูลนี้?
  • หลักฐานใหม่สามารถล้างข้อมูลเก่านี้ได้หรือไม่?
  • แหล่งที่มาของข้อมูลนี้คืออะไร?

ไม่ใช่หน่วยความจำทุกอย่างจะมีอำนาจเท่ากัน ผลลัพธ์จากเครื่องมือ (tool result) คือข้อเท็จจริง บทสรุปจากโมเดล (model summary) คือข้อสันนิษฐาน ความชอบของผู้ใช้ (user preference) คือแนวทาง

หากคุณใส่ข้อมูลทั้งหมดนี้ลงใน prompt ในฐานะข้อเท็จจริงที่เท่าเทียมกัน เอเจนต์จะล้มเหลว ระบบต้องแยกแยะระหว่างหลักฐาน (evidence) และข้อกล่าวอ้าง (claims) หลักฐานในขณะทำงาน (runtime evidence) ต้องอยู่เหนือข้อสันนิษฐานของโมเดลเสมอ

หน่วยความจำยังต้องการขอบเขต (scope) และแหล่งที่มา (provenance) เอเจนต์ไม่ควรเห็นข้อมูลทุกชิ้นในบริษัทของคุณ หน่วยความจำต้องมีขอบเขตตามบทบาท งาน และสิทธิ์การเข้าถึง คุณยังต้องรู้ด้วยว่าหน่วยความจำนั้นมาจากไหน ความคิดเห็นจากมนุษย์มีน้ำหนักมากกว่าการคาดเดาของโมเดล

เลิกพยายามทำให้เอเจนต์มี "สมอง" ที่ใหญ่ขึ้น แต่เริ่มสร้างกฎเกณฑ์ที่ดีขึ้นว่าพวกมันสามารถเรียกคืนข้อมูลอะไรได้บ้าง ระบบในขณะทำงาน (runtime) ต้องคัดกรองบริบทก่อนที่จะส่งไปถึงโมเดล

คำถามที่แท้จริงไม่ใช่ว่าเอเจนต์จะจำได้มากแค่ไหน คำถามที่แท้จริงคือ คุณสามารถเชื่อถือสิ่งที่เอเจนต์เรียกคืนมาได้หรือไม่

ที่มา: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

ชุมชนการเรียนรู้เพิ่มเติม (ทางเลือก): https://t.me/GyaanSetuAi