एजंटमध्ये मेमरी जोडणे
AI एजंट तयार करण्यासाठी केवळ मॉडेल पुरेसे नसते. त्याला तुम्ही कोण आहात हे लक्षात ठेवण्यासाठी एका मार्गाची आवश्यकता असते.
AWS Briefing Agent तयार करण्याच्या माझ्या मालिकेमध्ये, मी 'stateless' संवादाकडून वैयक्तिकृत अनुभवांकडे (personalized experiences) कसे वळायचे याचे शोध घेत आहे.
स्टँडर्ड microVMs मधील समस्या ही आहे की ते 'stateless' असतात. जेव्हा एखादे सेशन संपते, तेव्हा ते वातावरण नष्ट केले जाते. यामुळे डेटा लीक होण्यापासून बचाव होतो, परंतु याचा अर्थ असाही होतो की एजंट सर्व काही विसरतो. मेमरीशिवाय, वापरकर्त्याला प्रत्येक वेळी लॉग इन करताना त्यांच्या आवडीनिवडी पुन्हा पुन्हा सांगाव्या लागतात.
मी AgentCore Memory आणि Strands Agents वापरून ही समस्या सोडवली आहे.
आर्किटेक्चर कसे कार्य करते ते खालीलप्रमाणे आहे:
- शॉर्ट-टर्म मेमरी (Short-term memory): चॅट दरम्यान संदर्भ (context) कायम राखण्यासाठी ९० दिवसांपर्यंत कच्चा संवाद (raw interactions) साठवते.
- लाँग-टर्म मेमरी (Long-term memory): संवादाचे कायमस्वरूपी ज्ञानात रूपांतर करण्यासाठी दोन विशिष्ट धोरणे वापरते.
- सिमेंटिक स्ट्रॅटेजी (Semantic Strategy): तथ्यात्मक डेटा काढते, जसे की वापरकर्ता प्रोडक्शनमध्ये कोणत्या AWS सेवा वापरतो.
- युजर प्रिफरन्स स्ट्रॅटेजी (User Preference Strategy): शैली आणि आवडी ओळखते, जसे की सर्व्हरलेस टूल्सची (serverless tools) आवड.
डेटा सुरक्षित ठेवण्यासाठी, सिस्टम नेमस्पेस (namespaces) वापरते. {actorId} व्हेरिएबल वापरून, मी हे सुनिश्चित करतो की एका वापरकर्त्याचा डेटा दुसऱ्या वापरकर्त्याच्या सेशनमध्ये कधीही लीक होणार नाही.
मी सुरक्षित ऑथेंटिकेशनसाठी AWS Cognito देखील समाविष्ट केले आहे. एजंट ओळख पटवण्यासाठी JWT टोकन्स प्रमाणित (validate) करतो. एकदा पडताळणी झाली की, सिस्टम टोकनमधून युनिक 'sub' क्लेम काढते. हा ID 'actor_id' बनतो, ज्याचा वापर एजंट योग्य मेमरी रेकॉर्ड्स मिळवण्यासाठी करतो.
हे इंटिग्रेशन अत्यंत सुलभ आहे. AgentCoreMemorySessionManager वापरून, एजंट आपोआप:
- शॉर्ट-टर्म मेमरीमधून संवादाचा इतिहास लोड करतो.
- संबंधित तथ्ये आणि आवडीनिवडी शोधण्यासाठी लाँग-टर्म मेमरीमध्ये शोध घेतो.
- प्रतिसाद देण्यापूर्वी तो संदर्भ एजंट स्टेटमध्ये (agent state) समाविष्ट करतो.
याचा परिणाम असा होतो की एजंट वैयक्तिक वाटतो. तुम्हाला स्वतःची माहिती पुन्हा पुन्हा न सांगता, त्याला तुमच्या कौशल्याची पातळी आणि तुमच्या विशिष्ट AWS आवडी माहित असतात.
स्रोत: https://dev.to/aws-heroes/adding-memory-to-the-agent-181k
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi