𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀: 𝗠𝗲𝗺𝗼𝗿𝘆 𝘃𝘀. 𝗞𝗻𝗼𝘄𝗹𝗲𝗱𝗴𝗲
చాలా AI ఏజెంట్లకు కేవలం మెమరీ మాత్రమే ఉంటుంది. మెమరీ అంటే అవి మీ పేరును లేదా మీ ప్రాధాన్యతలను గుర్తుంచుకుంటాయి అని అర్థం. ఇది సరిపోదు.
నిజమైన విలువను జోడించాలంటే, ఒక ఏజెంట్కు నాలెడ్జ్ అవసరం.
మెమరీ అంటే "నేను దీనిని చూశాను." నాలెడ్జ్ అంటే "నేను దీనిని ఉపయోగించగలను."
చాలా ఫ్రేమ్వర్క్లు కాంటెక్స్ట్ క్యాషింగ్ (context caching) ఉపయోగిస్తాయి. అవి చాట్ లాగ్లను లేదా సాధారణ కీ-వాల్యూ (key-value) జంటలను నిల్వ చేస్తాయి. ఇది నాలెడ్జ్ బేస్ కాదు. కేవలం మెమరీ మాత్రమే ఉన్న ఏజెంట్ వెబ్సైట్, వీడియో లేదా సాంకేతిక పుస్తకం నుండి నేర్చుకోలేదు. దానికి కలెక్షన్ లేయర్ (collection layer) లోపం ఉంది.
మీ ఏజెంట్ను ఈ మూడు లేయర్లతో నిర్మించండి:
- కలెక్షన్ లేయర్ (Collection Layer): వెబ్ పేజీలు, వీడియోలు, పత్రాలు మరియు పుస్తకాల నుండి డేటాను సేకరిస్తుంది.
- అనాలిసిస్ లేయర్ (Analysis Layer): సారాంశాన్ని రూపొందించడానికి, కీవర్డ్లను వెలికితీయడానికి మరియు వాస్తవాలను తనిఖీ చేయడానికి AIని ఉపయోగిస్తుంది.
- స్టోరేజ్ లేయర్ (Storage Layer): డేటాను మూడు స్థాయిలుగా విభజిస్తుంది.
ఆ మూడు స్టోరేజ్ స్థాయిలు ఈ విధంగా పనిచేస్తాయి:
- హాట్ టియర్ (Hot Tier - Hermes Memory Tool): ఖచ్చితమైన కీ-వాల్యూ రిట్రీవల్ కోసం నానో సెకను వేగాన్ని ఉపయోగిస్తుంది.
- వార్మ్ టియర్ (Warm Tier - Hindsight Vector DB): సెమాంటిక్ సిమిలారిటీ కోసం మిల్లీ సెకను వేగాన్ని ఉపయోగిస్తుంది.
- కోల్డ్ టియర్ (Cold Tier - gbrain Knowledge Graph): సంక్లిష్టమైన రీజనింగ్ మరియు లింక్ల కోసం సెకను వేగాన్ని ఉపయోగిస్తుంది.
మీరు వెతికినప్పుడు, సిస్టమ్ ఫాల్బ్యాక్ పాత్ను (fallback path) అనుసరిస్తుంది. ఇది FTS5తో ప్రారంభమవుతుంది. అది విఫలమైతే, Hindsightకి మారుతుంది. అది కూడా విఫలమైతే, gbrainకి మారుతుంది. మ్యాచ్ దొరకగానే ఆగిపోవడం ద్వారా ఇది మీ LLM టోకెన్లను ఆదా చేస్తుంది.
వీడియో కోసం ఉదాహరణ వర్క్ఫ్లో:
- yt-dlp ద్వారా వీడియోను డౌన్లోడ్ చేయండి.
- Whisper ద్వారా స్పీచ్ను టెక్స్ట్గా మార్చండి.
- OCR ఉపయోగించి ఫ్రేమ్ల నుండి టెక్స్ట్ను వెలికితీయండి.
- స్ట్రక్చర్డ్ సమ్మరీని రూపొందించడానికి LLMని ఉపయోగించండి.
- నాలెడ్జ్ గ్రాఫ్లో సేవ్ చేయండి.
ఒకే కమాండ్తో ఈ మొత్తం ప్రక్రియను ప్రారంభించవచ్చు.
మీరు చెప్పిన దానిని మాత్రమే గుర్తుంచుకునే ఏజెంట్లను నిర్మించడం ఆపండి. ప్రపంచం నుండి సమాచారాన్ని గ్రహించే ఏజెంట్లను నిర్మించండి. ఒక ఏజెంట్ కొత్త వెబ్ డేటాను మీ ప్రస్తుత నాలెడ్జ్తో అనుసంధానించినప్పుడు, అది నిజంగా అర్థం చేసుకోవడం ప్రారంభిస్తుంది.
మూలం: https://dev.to/manoir_yantai_f22f01340f0/ai-dai-li-de-ji-yi-kun-jing-cong-ji-zhu-dao-zhi-dao--2g9n
ఐచ్ఛిక అభ్యాస కమ్యూనిటీ: https://t.me/GyaanSetuAi