क्यों AI कॉन्टेक्स्ट कंप्रेशन (Context Compression) चुपचाप आपके निर्देशों को अनदेखा कर रहा है
जैसे-जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ बातचीत लंबी होती जाती है, डेवलपर्स टोकन सीमाओं को प्रबंधित करने और परफॉरमेंस की बाधाओं (bottlenecks) को रोकने के लिए "कॉन्टेक्स्ट कंप्रेशन" या संकुचन (compaction) पर तेजी से निर्भर हो रहे हैं। हालांकि, नया शोध इस ऑप्टिमाइज़ेशन में एक गंभीर खामी को उजागर करता है: जब AI सिस्टम जगह बचाने के लिए बातचीत के इतिहास का सारांश (summarize) बनाते हैं, तो वे अक्सर उन नियमों को ही हटा देते हैं जो उनके व्यवहार को नियंत्रित करने के लिए बनाए गए थे।
सेशन कंस्ट्रेंट्स (Session Constraints) की नाजुकता
जब कोई AI सिस्टम संकुचन (compaction) से गुजरता है, तो उसका प्राथमिक लक्ष्य कार्य की निरंतरता बनाए रखना होता है—जैसे कि उद्देश्य, वर्तमान स्थिति और आवश्यक अगले चरणों को बनाए रखना। हालांकि यह बातचीत के "क्या" (what) को सुरक्षित रखता है, लेकिन यह अक्सर "कैसे" (how) का बलिदान कर देता है।
Penn State के शोधकर्ताओं ने पाया है कि "सेशन कंस्ट्रेंट्स" इस प्रक्रिया के पहले शिकार होते हैं। ये गैर-स्थायी, उपयोगकर्ता द्वारा लागू किए गए नियम हैं जैसे कि "अपने उत्तरों में कभी भी मेरे नाम का उपयोग न करें" या "कोई भी बदलाव करने से पहले मुझसे पुष्टि करें।" चूंकि ये निर्देश मुख्य कार्य या स्थायी सिस्टम प्रॉम्प्ट का हिस्सा नहीं होते हैं, इसलिए कंप्रेशन एल्गोरिदम इन्हें माध्यमिक विवरण मानते हैं और अधिक प्रासंगिक डेटा के लिए जगह बनाने हेतु इन्हें हटा देते हैं।
COMPINT के निष्कर्ष: 17% उत्तरजीविता दर (Survival Rate)
इस गिरावट को मापने के लिए, शोधकर्ताओं ने COMPINT इवैल्यूएशन सूट विकसित किया। परिणाम चौंकाने वाले हैं: औसतन, इंजेक्ट किए गए सेशन कंस्ट्रेंट्स का केवल 17 प्रतिशत ही कंप्रेशन प्रक्रिया में बच पाता है।
अध्ययन ने नियमों के अनुपालन (rule compliance) में भारी गिरावट को रेखांकित किया है। जब किसी एजेंट के पास पूरा, बिना कंप्रेस किया हुआ कॉन्टेक्स्ट होता है, तो अनुपालन दर आमतौर पर 59% और 71% के बीच होती है। एक बार संकुचन (compaction) होने के बाद, अनुपालन दर तेजी से गिर जाती है, और अक्सर ऐसे स्तर तक पहुँच जाती है जिसे उस स्थिति से अलग करना मुश्किल होता है जहाँ कोई कंस्ट्रेंट कभी दिया ही नहीं गया था।
यह केवल बातचीत की बारीकियों का मामला नहीं है; यह सुरक्षा और विश्वसनीयता का एक बड़ा जोखिम है। एजेंटिक वर्कफ़्लो (agentic workflows) में, "बिना अनुमति के कोड निष्पादित न करें" जैसे कंस्ट्रेंट का खो जाना अनधिकृत टूल कॉल, डेटा लीक, या कैलेंडर या ईमेल जैसे बाहरी सिस्टम में अनवेरिफाइड बदलावों का कारण बन सकता है।
Qwen3.5-9B के माध्यम से एक हल्का समाधान (Lightweight Solution)
प्रमुख AI लैब्स द्वारा उपयोग किए जाने वाले जटिल कंप्रेशन लॉजिक को पूरी तरह से बदलने के बजाय, शोधकर्ता एक "प्लग-एंड-प्ले" (plug-and-play) आर्किटेक्चरल समाधान का प्रस्ताव करते हैं। उन्होंने Qwen3.5-9B मॉडल पर आधारित एक छोटा ऐड-ऑन मॉड्यूल विकसित किया है जिसे एक विशेष एक्सट्रैक्टर (extractor) के रूप में कार्य करने के लिए डिज़ाइन किया गया है।
यह मॉड्यूल इस प्रकार कार्य करता है:
- सेशन कंस्ट्रेंट्स का पता लगाने और उन्हें अलग करने के लिए रीयल-टाइम में प्रत्येक उपयोगकर्ता इनपुट को स्कैन करना।
- इन नियमों की एक समर्पित, स्वतंत्र सूची बनाए रखना।
- जब भी मुख्य सिस्टम संकुचन (compaction) करता है, तो इस संक्षिप्त सूची को सारांश (summary) के साथ जोड़ना।
इस दृष्टिकोण के परिणाम अत्यधिक प्रभावी हैं। एक्सट्रैक्टर ने विभिन्न परीक्षण परिदृश्यों में 90 प्रतिशत से अधिक रिटेंशन (retention) हासिल किया, जिसमें एजेंट ट्रेजेक्टरीज़ (agent trajectories) के लिए 95.6% और मल्टी-टर्न चैट के लिए 90.3% की सफलता दर शामिल है। चूंकि इस पद्धति के लिए प्राथमिक मॉडल के पुन: प्रशिक्षण (retraining) और मौजूदा कंप्रेशन इंफ्रास्ट्रक्चर में किसी बदलाव की आवश्यकता नहीं होती है, इसलिए यह अधिक विश्वसनीय लॉन्ग-कॉन्टेक्स्ट AI इंटरैक्शन की दिशा में एक स्केलेबल रास्ता प्रदान करता है।
मुख्य बातें (Key Takeaways)
- कंस्ट्रेंट का मिट जाना (Constraint Erasure): कॉन्टेक्स्ट कंप्रेशन व्यवहार संबंधी नियमों के बजाय कार्य लक्ष्यों को प्राथमिकता देता है, जिससे सारांश के दौरान उपयोगकर्ता द्वारा लागू किए गए अधिकांश "सेशन कंस्ट्रेंट्स" खो जाते हैं।
- सुरक्षा जोखिम (Security Risks): निर्देशों का खो जाना—जैसे कि 'ह्यूमन-इन-द-लूप' (human-in-the-loop) सत्यापन की आवश्यकताएं—अनधिकृत एजेंट कार्यों और समझौता की गई सुरक्षा का कारण बन सकता है।
- मॉड्यूलर समाधान (Modular Fixes): कंस्ट्रेंट्स को अलग से ट्रैक करने के लिए Qwen3.5-9B जैसे छोटे, विशेष मॉडल का उपयोग करने से निर्देशों के रिटेंशन को 90% से अधिक तक बहाल किया जा सकता है।