ఏజెంటిక్ AI మెమరీ సిస్టమ్స్ యొక్క భవిష్యత్తు
AI మెమరీ మారుతోంది.
సంవత్సరాల తరబడి, మెమరీ అంటే చాట్ హిస్టరీని కాంటెక్స్ట్ విండోలోకి నింపడం అని అర్థం. ఆ పద్ధతి ఇప్పుడు పనికిరాదు. 2026 నాటికి, మెమరీ అనేది ఏజెంట్ డిజైన్లో ఒక ప్రధాన భాగం. దీనికి స్వంత పరిశోధనలు, బెంచ్మార్క్లు మరియు భద్రతా ప్రమాదాలు ఉన్నాయి.
మీరు ఏజెంట్లను నిర్మిస్తుంటే, మీ సాధనం మొదటి సెషన్ తర్వాత కూడా ఉపయోగకరంగా ఉంటుందో లేదో మెమరీ నిర్ణయిస్తుంది.
పాత పద్ధతి సరళంగా ఉండేది కానీ విఫలమైంది. డెవలపర్లు ఇటీవలి సందేశాలను బఫర్ చేసి, మిగిలిన వాటిని సారాంశం (summarize) చేసేవారు. ఇది చాట్బాట్లకు పని చేసింది. కానీ కోడ్ రివ్యూలు లేదా పరిశోధన వంటి నిజమైన వర్క్ఫ్లోలను నిర్వహించే ఏజెంట్లకు ఇది విఫలమైంది. ఆ ఏజెంట్లకు కేవలం ఐదు నిమిషాల క్రితం జరిగినవి మాత్రమే కాకుండా, నిన్న ఏమి చేశారో కూడా గుర్తుండాలి.
సమర్థవంతమైన లాంగ్-టర్మ్ మెమరీకి మూడు రకాలు ఉన్నాయి:
- ఎపిసోడిక్ మెమరీ (Episodic memory): నిర్దిష్ట గత అనుభవాలు మరియు ఫలితాలు.
- సెమాంటిక్ మెమరీ (Semantic memory): సాధారణ వాస్తవాలు మరియు సంబంధాలు.
- ప్రొసీజరల్ మెమరీ (Procedural memory): నేర్చుకున్న నైపుణ్యాలు మరియు తిరిగి ఉపయోగించదగిన చర్యల క్రమాలు.
నేడు చాలా వ్యవస్థలకు ప్రొసీజరల్ మెమరీ లోపించింది. అవి వెక్టర్ సెర్చ్ ద్వారా వాస్తవాలపై దృష్టి పెడతాయి. కానీ ఒక ఏజెంట్ ప్రొసీజరల్ మెమరీని పట్టుబడితేనే కాలక్రమేణా మెరుగుపడుతుంది.
ఆర్కిటెక్చర్లు కూడా రెండు వర్గాలుగా విడిపోతున్నాయి:
- కన్వర్సేషన్ కాంటెక్స్ట్ (Conversation context): ఒకే ఇంటరాక్షన్ను సమగ్రంగా ఉంచడం.
- ఆపరేషనల్ నాలెడ్జ్ (Operational knowledge): అనేక సెషన్ల ద్వారా మన్నికైన జ్ఞానాన్ని నిల్వ చేయడం.
ఈ వ్యవస్థలలో, మీరు వెక్టర్ సిమిలారిటీ (vector similarity) మరియు గ్రాఫ్-ఆగ్మెంటెడ్ రిట్రీవల్ (graph-augmented retrieval) మధ్య ఒకదాన్ని ఎంచుకోవాలి. వెక్టర్ మెమరీ సారూప్యమైన వాస్తవాలను కనుగొంటుంది కానీ సంబంధాలను కోల్పోతుంది. గ్రాఫ్ పద్ధతులు ఎంటిటీలు మరియు కనెక్షన్ల ద్వారా వాస్తవాలను కనుగొంటాయి. ఉత్తమమైన వ్యవస్థలు ఇప్పుడు మల్టీ-సిగ్నల్ రిట్రీవల్ (multi-signal retrieval) ఉపయోగిస్తున్నాయి. ఇది సెమాంటిక్ సిమిలారిటీ, కీవర్డ్స్ మరియు ఎంటిటీ లింకింగ్ను కలుపుతుంది.
Letta వంటి కొత్త మోడల్స్ మెమరీని ఒక ఆపరేటింగ్ సిస్టమ్లా పరిగణిస్తాయి. అవి ఒక టైర్డ్ అప్రోచ్ (tiered approach) ఉపయోగిస్తాయి, ఇక్కడ కోర్ మెమరీ RAM లాగా పనిచేస్తుంది. ఇది కేవలం ఒక ఏజెంట్కు డేటాబేస్ను అనుసంధానించడం కంటే మెరుగైనది.
మీరు ఒక కొత్త భద్రతా ముప్పును కూడా గమనించాలి: మెమరీ పాయిజనింగ్ (Memory Poisoning).
చాట్ ముగిసినప్పుడు ప్రాంప్ట్ ఇంజెక్షన్ (Prompt injection) రీసెట్ అవుతుంది. కానీ మెమరీ పాయిజనింగ్ అలా కాదు. ఒక అటాకర్ ఏజెంట్ యొక్క లాంగ్-టర్మ్ స్టోర్లో ఒకసారి తప్పుడు డేటాను ప్లాంట్ చేయవచ్చు. అది తదుపరి ప్రతి ఇంటరాక్షన్ను పాడు చేస్తుంది. ఇది రోజుల తర్వాత కూడా జరగవచ్చు. OWASP ఇప్పుడు మెమరీ మరియు కాంటెక్స్ట్ పాయిజనింగ్ను ఒక ప్రధాన రిస్క్గా జాబితా చేస్తోంది.
మీ వ్యవస్థలను రక్షించడానికి, ఈ నాలుగు పొరలను ఉపయోగించండి:
- డేటాను ఇంజెషన్ (ingestion) చేయడానికి ముందు శుద్ధి చేయండి.
- ప్రతి ఎంట్రీ యొక్క మూలాన్ని ట్రాక్ చేయడానికి దానికి ప్రావెనెన్స్ (provenance)ను జోడించండి.
- రిట్రీవల్ సమయంలో ట్రస్ట్-అవేర్ వెయిటింగ్ (trust-aware weighting)ని ఉపయోగించండి.
- బిహేవియరల్ డ్రిఫ్ట్ (behavioral drift) కోసం పర్యవేక్షించండి.
భవిష్యత్తును చూస్తే, మూడు పోకడలు ఈ రంగాన్ని రూపొందిస్తాయి:
- మల్టీ-ఏజెంట్ మెమరీ (Multi-agent memory): ఏజెంట్లు ఒకరి మెమరీని ఒకరు పంచుకోవాలి మరియు నమ్మాలి.
- స్టాండర్డైజేషన్ (Standardization): ఏజెంట్లు తాము తెలుసుకున్న వాటిని ఎలా వివరిస్తారో తెలిపే ప్రోటోకాల్లను మనం చూస్తాము.
- ప్రూనింగ్ (Pruning): మంచి వ్యవస్థలు దేనిని మర్చిపోవాలో నిర్ణయిస్తాయి. అపరిమితమైన మెమరీ నాయిస్ మరియు అధిక ఖర్చులను సృష్టిస్తుంది.
మెమరీ అనేది ఇకపై చిన్న కాంటెక్స్ట్ విండోల కోసం చేసే తాత్కాలిక పరిష్కారం కాదు. ఇది ఒక డెమోను నిజమైన వ్యవస్థ నుండి వేరు చేస్తుంది. మెమరీని ఒక ఆలోచన తర్వాత వచ్చేదిగా కాకుండా, కోర్ ఆర్కిటెక్చర్గా పరిగణించండి.
Source: https://dev.to/xenocoregiger31/the-future-of-agentic-ai-memory-systems-5fdp
Optional learning community: https://t.me/GyaanSetuAi