นักวิจัย Yuxing Lu, Yicheng Chen และ Shanchan Wu ได้เปิดตัวเฟรมเวิร์ก “Procedural Graph” ที่ช่วยให้เอเจนต์โมเดลภาษาขนาดใหญ่ (LLM) สามารถเขียนแผนการดำเนินงานตามภารกิจของตนเองใหม่ได้ในขณะที่กำลังทำงาน
ปัญหาของเอเจนต์ในปัจจุบัน
ผู้ช่วยที่ขับเคลื่อนด้วย LLM ส่วนใหญ่ทำงานเหมือนเชฟที่ทำได้เพียงท่องจำสูตรอาหาร โมเดลจะเก็บขั้นตอนต่างๆ ไว้ในหน่วยความจำชั่วคราว เลือกเครื่องมือถัดไป และหวังว่าโทเคน (token) ถัดไปจะออกมาถูกต้อง ในทางปฏิบัติ มักจะเกิดความล้มเหลว 3 ประการ ดังนี้:
- เป้าหมายหลุดประเด็น (Goal drift) – หลังจากผ่านไปไม่กี่ขั้นตอน เอเจนต์จะลืมวัตถุประสงค์เริ่มแรก
- การใช้เครื่องมือผิดพลาด (Tool misuse) – มีการเรียกใช้ API ผิดลำดับ หรือเกิดการวนลูปในการเรียกใช้เดิมซ้ำๆ
- ความผิดพลาดที่ไม่ได้รับการเรียนรู้ (Unlearned mistakes) – ข้อผิดพลาดเดิมๆ มักจะปรากฏขึ้นมาอีกในเซสชันที่ไม่เกี่ยวข้องกัน เนื่องจากไม่มีการบันทึกความล้มเหลวไว้อย่างถาวร
เนื่องจากกระบวนการให้เหตุผลยังคงเป็นแบบแฝง (implicit) นักพัฒนาจึงไม่สามารถมองเห็นสาเหตุของการกระทำนั้นๆ ได้ และผู้ใช้ก็ไม่สามารถแก้ไขข้อบกพร่องเชิงระบบได้
การเปลี่ยนพรอมต์ (prompts) ให้กลายเป็นกราฟ
Procedural Graphs เปลี่ยนจากการใช้แนวทางแบบ "ใช้หน่วยความจำเพียงอย่างเดียว" มาเป็นโครงสร้างที่ชัดเจนและแก้ไขได้ โดยเฟรมเวิร์กนี้ประกอบด้วย 3 องค์ประกอบหลัก:
| องค์ประกอบ | บทบาท |
|---|---|
| Node (โหนด) | ขั้นตอนที่ชัดเจน เช่น “ค้นหาเที่ยวบิน” หรือ “ตรวจสอบการชำระเงิน” |
| Edge (เส้นเชื่อม) | การไหลเวียนระหว่างโหนด เช่น ลำดับขั้นตอนแบบเส้นตรง, เงื่อนไข (if/then) และการวนลูป |
| Attribute (คุณลักษณะ) | เมทาดาตา (metadata) ที่แนบมากับโหนดหรือเส้นเชื่อม เช่น อัตราความสำเร็จ, เวลาเฉลี่ยในการทำงาน หรือคะแนนความเชื่อมั่น |
เมื่อเอเจนต์ LLM ได้รับคำขอ มันจะนำคำขอนั้นไปวางลงบนกราฟที่มีอยู่เดิม หรือสร้างกราฟใหม่ขึ้นมาทันที จากนั้นการทำงานจะดำเนินไปตามเส้นเชื่อม (edges) มีการเรียกใช้เครื่องมือ และบันทึกผลลัพธ์ไว้ในคุณลักษณะ (attributes) เนื่องจากกราฟนี้อยู่นอกกระแสโทเคน (token stream) ของโมเดล ผู้คนจึงสามารถตรวจสอบ เห็นภาพ และแก้ไขมันได้
การวิวัฒนาการด้วยตนเองใน 5 ขั้นตอน
ความแปลกใหม่อยู่ที่ลูปที่ช่วยให้เอเจนต์สามารถปรับปรุงกราฟของตนเองได้:
- บันทึก (Record) ทุกเส้นทางที่เอเจนต์เดินทางผ่าน โดยบันทึกทั้งอินพุต การเรียกใช้เครื่องมือ และผลลัพธ์
- เปรียบเทียบ (Compare) เส้นทางที่สำเร็จกับเส้นทางที่ล้มเหลว เพื่อระบุจุดที่เริ่มแตกต่างกัน
- วินิจฉัย (Diagnose) ข้อผิดพลาดโดยการตรวจสอบคุณลักษณะของโหนด (เช่น อัตราความสำเร็จต่ำ) และเงื่อนไขของเส้นเชื่อม
- เสนอการแก้ไข (Propose) – LLM จะได้รับผลการวิเคราะห์ความล้มเหลวและเสนอการปรับเปลี่ยนกราฟ (เช่น เพิ่มขั้นตอนการตรวจสอบที่ขาดหายไป, ตัดลูปที่ซ้ำซ้อนออก หรือปรับเงื่อนไขให้รัดกุมขึ้น)
- ตรวจสอบความถูกต้อง (Validate) กราฟที่แก้ไขแล้วด้วยกรณีทดสอบ หากประสิทธิภาพดีขึ้น การเปลี่ยนแปลงนั้นจะถูกนำมาใช้จริง
เนื่องจากกราฟทำหน้าที่เป็นแหล่งข้อมูลความจริงหนึ่งเดียว (single source of truth) เอเจนต์จึงสามารถเพิ่มขั้นตอน, ตัดทางตัน หรือปรับเปลี่ยนตรรกะใหม่ได้โดยไม่ต้องอาศัยความช่วยเหลือจากมนุษย์ แม้แต่เวิร์กโฟลว์ที่มนุษย์สร้างขึ้นอย่างไม่เป็นระบบก็สามารถปรับปรุงให้ดีขึ้นได้เองเมื่อเวลาผ่านไป
ทำไมการเปลี่ยนแปลงนี้จึงสำคัญ
การประยุกต์ใช้ที่กว้างไกลกว่าการจดจำ
พรอมต์แบบคงที่ (static prompt) จะจับได้เพียงตัวอย่างงานเดียว แต่กราฟจะสรุป "วิธีการ" สำหรับงานทั้งประเภท เช่น การค้นหาและจอง, กระบวนการป้อนข้อมูล หรือบทสนทนาเพื่อแก้ไขปัญหา ทำให้โครงสร้างเดียวกันสามารถทำงานได้กับพารามิเตอร์ที่แตกต่างกัน ทีมงานจึงไม่จำเป็นต้องเขียนพรอมต์ใหม่ให้โมเดลสำหรับทุกๆ รูปแบบที่เปลี่ยนไป
การตัดสินใจที่โปร่งใส
กราฟมีลักษณะเหมือนผังงาน (flowchart) ผู้มีส่วนได้ส่วนเสียสามารถติดตามได้ว่าโหนดใดเป็นตัวกระตุ้นการเรียกใช้เครื่องมือ และทำไมจึงมีการเลือกไปตามเส้นทางนั้นๆ
การทำงานร่วมกันแบบ Neuro-symbolic
Procedural Graphs จับคู่การจดจำรูปแบบด้วยการเรียนรู้เชิงลึก (ความเข้าใจภาษาของ LLM) เข้ากับการให้เหตุผลเชิงสัญลักษณ์ (ตรรกะของกราฟที่ชัดเจน) โดย LLM จะใช้สัญชาตญาณในการสร้างหรือปรับเปลี่ยนขั้นตอน ส่วนกราฟจะทำหน้าที่ควบคุมความสอดคล้องทางตรรกะ ผู้เขียนอธิบายว่าสิ่งนี้เปรียบเสมือนการมอบสมอง "System 2" ให้กับ LLM ซึ่งเป็นตัวควบคุมที่คิดอย่างรอบคอบและตรวจสอบได้ เพื่อมาเสริมการทำงานของ "System 1" ที่เน้นการเชื่อมโยงข้อมูลอย่างรวดเร็วจากการทำนายโทเคนดิบๆ
บทสรุป
Procedural Graphs มอบโครงสร้างหลักที่เปลี่ยนแปลงได้และตรวจสอบได้ให้กับเอเจนต์ LLM ซึ่งช่วยให้พวกมันเรียนรู้จากการทำงานในแต่ละครั้ง การเปลี่ยนพรอมต์ที่ผ่านมาเพียงชั่วคราวให้กลายเป็นโครงสร้างที่ยั่งยืน ทำให้แนวทางนี้สัญญาว่าจะสร้างผู้ช่วย AI ที่พังยากขึ้น เข้าใจง่ายขึ้น และปรับตัวเข้ากับความท้าทายใหม่ๆ ได้ดียิ่งขึ้น