AI एजेंट्स को अधिक मेमोरी की आवश्यकता नहीं है। उन्हें नियंत्रित रिकॉल (Governed Recall) की आवश्यकता है।

अधिकांश लोगों को लगता है कि AI एजेंट्स को बेहतर काम करने के लिए अधिक मेमोरी की आवश्यकता होती है। वे अधिक चैट हिस्ट्री का सुझाव देते हैं। वे बड़े कॉन्टेक्स्ट विंडो (context windows) का सुझाव देते हैं। वे अधिक वेक्टर स्टोरेज का सुझाव देते हैं।

लेकिन अधिक मेमोरी अक्सर एजेंट्स को कम विश्वसनीय बना देती है। एजेंट पुराने/अप्रासंगिक अनुमानों (stale assumptions) का उपयोग करने लगता है। यह पुराने कॉन्टेक्स्ट को वर्तमान तथ्यों के रूप में मानता है। यह उपयोगकर्ता की प्राथमिकताओं को ठोस साक्ष्यों के साथ मिला देता है।

समस्या यह नहीं है कि एक एजेंट कितना याद रखता है। समस्या यह तय करने में है कि एक एजेंट को क्या याद करने (recall करने) की अनुमति है।

यह सिस्टम इंजीनियरिंग की समस्या है, इंटेलिजेंस की नहीं।

रिट्रीवल (Retrieval) गवर्नेंस नहीं है। एक रिट्रीवल सिस्टम उस जानकारी को खोजता है जो क्वेरी के समान दिखती है। एक गवर्नड रिकॉल सिस्टम यह तय करता है कि क्या उस जानकारी का उपयोग करना सुरक्षित है।

एक अच्छी रिकॉल पॉलिसी ये सवाल पूछती है:

  • क्या यह जानकारी अभी भी ताज़ा है?
  • इसे देखने की अनुमति किसे है?
  • क्या नया साक्ष्य इस पुराने डेटा पर भारी पड़ता है?
  • इस जानकारी का स्रोत क्या है?

सभी मेमोरी का अधिकार एक समान नहीं होता। एक टूल का परिणाम एक तथ्य है। एक मॉडल का सारांश एक अनुमान है। एक उपयोगकर्ता की प्राथमिकता एक मार्गदर्शक है।

यदि आप इन सभी को एक प्रॉम्प्ट में समान तथ्यों के रूप में डालते हैं, तो एजेंट विफल हो जाएगा। सिस्टम को साक्ष्य (evidence) और दावों (claims) के बीच अंतर करना चाहिए। रनटाइम साक्ष्य को हमेशा मॉडल के अनुमानों से ऊपर होना चाहिए।

मेमोरी को स्कोप (scope) और प्रोवेनेंस (provenance) की भी आवश्यकता होती है। एक एजेंट को आपकी कंपनी के हर डेटा को नहीं देखना चाहिए। मेमोरी को भूमिकाओं, कार्यों और अनुमतियों (permissions) के आधार पर सीमाओं की आवश्यकता होती है। आपको यह भी जानने की आवश्यकता है कि मेमोरी कहाँ से आई है। एक मानव टिप्पणी का महत्व मॉडल के अनुमान से अधिक होता है।

एजेंट्स को बड़े दिमाग देने की कोशिश करना बंद करें। वे क्या याद रख सकते हैं, इसके लिए बेहतर नियम बनाना शुरू करें। रनटाइम को मॉडल तक पहुँचने से पहले कॉन्टेक्स्ट को क्यूरेट (curate) करना चाहिए।

असली सवाल यह नहीं है कि एक एजेंट कितना याद रख सकता है। असली सवाल यह है कि क्या आप उस पर भरोसा कर सकते हैं जो एजेंट याद करता है।

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi