ทำไมการบีบอัดบริบทของ AI ถึงเพิกเฉยต่อคำสั่งของคุณอย่างเงียบเชียบ
เมื่อการสนทนากับโมเดลภาษาขนาดใหญ่ (LLMs) ยาวนานขึ้น นักพัฒนาจึงหันมาพึ่งพา "การบีบอัดบริบท" (context compression) หรือการทำ compaction มากขึ้นเพื่อจัดการกับขีดจำกัดของโทเคนและป้องกันคอขวดด้านประสิทธิภาพ อย่างไรก็ตาม งานวิจัยใหม่เผยให้เห็นข้อบกพร่องร้ายแรงในการเพิ่มประสิทธิภาพนี้: เมื่อระบบ AI สรุปประวัติการสนทนาเพื่อประหยัดพื้นที่ พวกมันมักจะละทิ้งกฎเกณฑ์ที่ตั้งไว้เพื่อควบคุมพฤติกรรมของตัวมันเอง
ความเปราะบางของข้อจำกัดในเซสชัน (Session Constraints)
เมื่อระบบ AI ผ่านกระบวนการ compaction เป้าหมายหลักคือการรักษาความต่อเนื่องของงาน—โดยคงวัตถุประสงค์ สถานะปัจจุบัน และขั้นตอนถัดไปที่จำเป็นเอาไว้ แม้ว่าสิ่งนี้จะช่วยรักษา "สิ่งที่ต้องทำ" (what) ของการสนทนา แต่บ่อยครั้งกลับต้องแลกมาด้วยการเสีย "วิธีการทำ" (how) ไป
นักวิจัยจาก Penn State ระบุว่า "ข้อจำกัดของเซสชัน" (session constraints) คือเหยื่อรายแรกของกระบวนการนี้ สิ่งเหล่านี้คือกฎที่ไม่ถาวรซึ่งผู้ใช้กำหนดขึ้น เช่น "ห้ามใช้ชื่อของฉันในการตอบกลับ" หรือ "ยืนยันกับฉันก่อนทำการเปลี่ยนแปลงใดๆ" เนื่องจากคำสั่งเหล่านี้ไม่ใช่ส่วนหนึ่งของงานหลักหรือ System Prompt ถาวร อัลกอริทึมการบีบอัดจึงมองว่าเป็นรายละเอียดรองและตัดทิ้งเพื่อเพิ่มพื้นที่ให้กับข้อมูลที่เกี่ยวข้องมากกว่า
ผลลัพธ์จาก COMPINT: อัตราการอยู่รอดเพียง 17%
เพื่อวัดระดับความเสื่อมถอยนี้ นักวิจัยได้พัฒนาชุดการประเมิน COMPINT ผลลัพธ์ที่ได้นั้นน่าตกใจ: โดยเฉลี่ยแล้ว มี ข้อจำกัดของเซสชันที่ถูกใส่เข้ามาเพียง 17 เปอร์เซ็นต์เท่านั้นที่อยู่รอดผ่านกระบวนการบีบอัด
การศึกษานี้เน้นย้ำถึงการลดลงอย่างมีนัยสำคัญของการปฏิบัติตามกฎ เมื่อเอเจนต์สามารถเข้าถึงบริบทแบบเต็มโดยไม่มีการบีบอัด อัตราการปฏิบัติตามกฎมักจะอยู่ที่ระหว่าง 59% ถึง 71% แต่เมื่อเกิดการ compaction อัตราการปฏิบัติตามกฎจะดิ่งลง จนบางครั้งแทบไม่ต่างจากสถานการณ์ที่ไม่มีการกำหนดข้อจำกัดใดๆ เลย
นี่ไม่ใช่แค่เรื่องของความละเอียดอ่อนในการสนทนา แต่มันคือความเสี่ยงด้านความปลอดภัยและความน่าเชื่อถือที่สำคัญ ในเวิร์กโฟลว์แบบเอเจนต์ (agentic workflows) การสูญเสียข้อจำกัดอย่าง "ห้ามรันโค้ดโดยไม่ได้รับอนุมัติ" อาจนำไปสู่การเรียกใช้เครื่องมือโดยไม่ได้รับอนุญาต ข้อมูลรั่วไหล หรือการเปลี่ยนแปลงระบบภายนอก เช่น ปฏิทินหรืออีเมล โดยไม่ผ่านการตรวจสอบ
โซลูชันน้ำหนักเบาผ่าน Qwen3.5-9B
แทนที่จะรื้อระบบตรรกะการบีบอัดที่ซับซ้อนซึ่งใช้ในแล็บ AI รายใหญ่ นักวิจัยได้เสนอแนวทางการแก้ไขทางสถาปัตยกรรมแบบ "plug-and-play" พวกเขาได้พัฒนาโมดูลเสริมขนาดเล็กที่ใช้โมเดล Qwen3.5-9B ซึ่งออกแบบมาเพื่อทำหน้าที่เป็นตัวสกัดข้อมูลเฉพาะทาง (specialized extractor)
โมดูลนี้ทำงานโดย:
- สแกนทุกอินพุตของผู้ใช้แบบเรียลไทม์เพื่อตรวจจับและแยกข้อจำกัดของเซสชันออกมา
- รักษาบัญชีรายชื่อกฎเหล่านี้แยกต่างหากอย่างเป็นอิสระ
- เพิ่มรายการที่กลั่นกรองแล้วนี้เข้าไปในบทสรุปทุกครั้งที่ระบบหลักทำการ compaction
ผลลัพธ์ของแนวทางนี้มีประสิทธิภาพสูงมาก ตัวสกัดข้อมูลสามารถรักษาข้อจำกัดไว้ได้มากกว่า 90 เปอร์เซ็นต์ ในสถานการณ์การทดสอบต่างๆ รวมถึงมีอัตราความสำเร็จ 95.6% สำหรับเส้นทางการทำงานของเอเจนต์ (agent trajectories) และ 90.3% สำหรับการแชทแบบหลายรอบ (multi-turn chats) เนื่องจากวิธีการนี้ไม่จำเป็นต้องฝึกฝนโมเดลหลักใหม่และไม่ต้องเปลี่ยนแปลงโครงสร้างพื้นฐานการบีบอัดที่มีอยู่ จึงเป็นแนวทางที่ขยายขนาดได้ (scalable) เพื่อการโต้ตอบกับ AI ในบริบทที่ยาวขึ้นอย่างน่าเชื่อถือยิ่งขึ้น
สรุปประเด็นสำคัญ
- การลบข้อจำกัด (Constraint Erasure): การบีบอัดบริบทให้ความสำคัญกับเป้าหมายของงานมากกว่ากฎด้านพฤติกรรม ส่งผลให้ "ข้อจำกัดของเซสชัน" ส่วนใหญ่ที่ผู้ใช้กำหนดไว้สูญหายไประหว่างการสรุปความ
- ความเสี่ยงด้านความปลอดภัย: การสูญเสียคำสั่ง เช่น ข้อกำหนดในการตรวจสอบโดยมนุษย์ (human-in-the-loop verification) อาจนำไปสู่การกระทำของเอเจนต์ที่ไม่ได้รับอนุญาตและทำให้ความปลอดภัยถูกบุกรุก
- การแก้ไขแบบโมดูลาร์: การใช้โมเดลเฉพาะทางขนาดเล็กอย่าง Qwen3.5-9B เพื่อติดตามข้อจำกัดแยกต่างหาก สามารถกู้คืนการรักษาคำสั่งให้กลับมาสูงกว่า 90% ได้