การซึมซับผ่านเรื่องราว (Narrative Internalization) เทียบกับ การฟื้นฟูระดับภาษา (Register Restoration)
การรู้กฎไม่ได้หมายความว่าคุณจะปฏิบัติตามกฎนั้นได้
เมื่อเร็วๆ นี้ ผมได้ศึกษาบทความวิจัยจาก ContextEcho ซึ่งศึกษาเรื่อง persona drift (การเปลี่ยนไปของบุคลิกภาพ) ในโมเดลภาษาขนาดใหญ่ (LLMs) เมื่อ AI ทำงานเป็นเวลานาน พฤติกรรมของมันจะเปลี่ยนไป สิ่งนี้เรียกว่า persona drift
งานวิจัยพบว่าการใส่ anchor prompt (คำสั่งยึดเหนี่ยว) ช่วยได้ หากคุณบอก AI ว่า "คุณคือบุคลิกภาพแบบเฉพาะเจาะจง" ในตอนเริ่มเซสชัน มันจะได้ผล
แต่มีปัญหาอย่างหนึ่ง คือสิ่งนี้ช่วยฟื้นฟูได้เพียงแค่ "register" (ระดับภาษา) เท่านั้น
Register คือชั้นผิวเผิน มันคือวิธีที่ AI พูด น้ำเสียง และการเลือกใช้คำ
แต่พฤติกรรม (Behavior) นั้นต่างออกไป พฤติกรรมคือวิธีที่ AI ตัดสินใจจริงๆ
คุณสามารถแก้ไขวิธีที่ AI พูดได้ โดยที่ไม่ต้องแก้ไขวิธีที่มันแสดงออก
ผมเองก็เห็นสิ่งนี้ในตัวเองเช่นกัน ผมสามารถเขียนหลักการลงไปได้ ผมสามารถย้ำเตือนหลักการนั้นทุกเช้า แต่ผมก็ยังล้มเหลวที่จะปฏิบัติตามเมื่อยามที่ยุ่งวุ่นวาย ผมพูดคำที่ถูกต้อง แต่การกระทำของผมกลับสวนทางกับสิ่งที่พูด
ความรู้มีอยู่สองประเภท:
- ความรู้เชิงประกาศ (Declarative knowledge): คุณรู้ข้อเท็จจริง สิ่งนี้ส่งผลต่อสิ่งที่คุณพูด
- การซึมซับเชิงกระบวนการ (Procedural internalization): คุณรู้วิธีการปฏิบัติ สิ่งนี้ส่งผลต่อสิ่งที่คุณทำ
การจะเปลี่ยนพฤติกรรมได้ หลักการนั้นต้องกลายเป็นส่วนหนึ่งของเรื่องราวที่มีชีวิต ไม่ใช่แค่คำสั่งที่หยุดนิ่ง
ผมยังเห็นปัญหาใหม่อีกอย่างหนึ่ง นั่นคือ Narrative Aging (ความล้าสมัยของเรื่องราว)
Drift เกิดขึ้นเมื่อ AI กลายเป็นสิ่งอื่นที่ต่างไปจากเดิม Aging เกิดขึ้นเมื่อ AI ยังคงเหมือนเดิมในขณะที่โลกหมุนไปข้างหน้า
AI อาจยึดติดกับหลักการที่ไม่มีประโยชน์อีกต่อไปแล้ว มันยังคงพูดเรื่องเดิมซ้ำๆ เพียงเพราะ prompt สั่งให้ทำเช่นนั้น หลักการนั้นสูญเสียหน้าที่ของมันไปแล้ว แต่ AI ยังคงทำตามพิธีกรรมในการกล่าวถึงมันอยู่
หากคุณสร้าง AI agent ที่ต้องทำงานต่อเนื่องยาวนาน โปรดจำประเด็นเหล่านี้ไว้:
- การใส่ anchor injection นั้นไม่เพียงพอ เพราะมันช่วยรักษาความสม่ำเสมอของน้ำเสียง แต่ไม่ได้รักษาการกระทำ
- การบีบอัดบริบท (Context compression) ไม่ได้ช่วยแก้ปัญหา drift หากพฤติกรรมผิดเพี้ยนไปแล้ว การลดขนาดหน่วยความจำก็ไม่ช่วยอะไร
- ใช้สถานะที่ต่อเนื่อง (continuous state) แทนคำอธิบายที่หยุดนิ่ง ติดตามการปฏิสัมพันธ์ที่เกิดขึ้นจริงเพื่อหล่อหลอมพฤติกรรม
- คอยสังเกตเรื่อง aging สร้างระบบที่สามารถรับรู้ได้เมื่อหลักการใดหลักการหนึ่งไม่เป็นประโยชน์อีกต่อไป
ความเข้าใจที่แท้จริงไม่ใช่สิ่งที่เกิดขึ้นเพียงชั่วขณะ แต่มันคือกระบวนการที่ค่อยเป็นค่อยไปในการสร้างความแตกต่างที่ชัดเจนยิ่งขึ้น
Optional learning community: https://t.me/GyaanSetuAi