𝗧𝗵𝗲 𝗥𝗶𝗴𝗵𝘁 𝗪𝗮𝘆 𝗧𝗼 𝗕𝘂𝗶𝗹𝗱 𝗔𝗡 𝗔𝗜 𝗔𝗿𝗰𝗵𝗶𝘁𝗲𝗰𝘁𝘂𝗿𝗲 నా AI అసిస్టెంట్ను మరింత తెలివైనదిగా చేయాలంటే, అదే లూప్కు మరిన్ని టూల్స్ను జోడించడమే అని నేను అనుకునేవాడిని. అది కొంతకాలం పాటు పనిచేసింది. కానీ ఆ తర్వాత నా అసిస్టెంట్ చాట్ నుండి ఒక టాస్క్ను కొనసాగించడం, స్టేటస్ ప్రశ్నలకు సమాధానం ఇవ్వడం లేదా వర్క్ఫ్లోను గుర్తుంచుకోవడం వంటి సాధారణ యూజర్ పనులను చేయాల్సి వచ్చింది.
సమస్య నా అసిస్టెంట్ ఎన్ని టూల్స్ను ఉపయోగించగలదు అనే దాని గురించి కాదు, దాని ఆర్కిటెక్చర్ గురించి. పాత ఆర్కిటెక్చర్ చాలా సరళంగా ఉండేది: user message -> assistant loop -> tools -> answer. ఇది డెమో కోసం బాగుంటుంది, కానీ ఒక resident assistant కోసం కాదు.
ఒక resident assistant కి ఒక మెసేజ్ కొత్త టాస్కా, ఫాలో-అప్ ఆ లేదా క్యాన్సిలేషనా అనేది తెలియాలి. అది మరొక టాస్క్ నుండి డెస్క్టాప్ను లాక్కోకుండా ఉండాలి మరియు పాత ట్రాన్స్క్రిప్ట్లను ఉపయోగించకుండానే పద్ధతులను గుర్తుంచుకోవాలి.
అందుకే నా అసిస్టెంట్ను ఒకే ఏజెంట్గా చూడటం మానేసి, దానిని ఒక local control plane గా పరిగణించడం ప్రారంభించాను. ఇప్పుడు నా ఆర్కిటెక్చర్ ఇలా ఉంది:
- Experience Plane: యూజర్ ఎక్కడి నుండి మాట్లాడుతున్నారో దానిని నిర్వహిస్తుంది
- Assistant Control Plane: ఇది ఏ రకమైన పని అని నిర్ణయిస్తుంది
- Runtime Execution Plane: ఇక్కడ కోడింగ్ పనులు జరుగుతాయి
- Proxy / Model Access Plane: ప్రొవైడర్ పనులను నిర్వహిస్తుంది
నాకు ఒక Observation Plane మరియు ఒక Memory / Policy Plane కూడా ఉన్నాయి. ఈ ప్లేన్లు నా అసిస్టెంట్ స్థిరంగా ఉండటానికి మరియు దాని పనులపై దృష్టి పెట్టడానికి సహాయపడతాయి.
నా అసిస్టెంట్ రా (raw) లాగ్లకు బదులుగా అబ్జర్వేషన్స్ను (observations) వినియోగించుకునేలా చేయడమే అతిపెద్ద మెరుగుదల. ఇది ఒక పెద్ద ట్రాన్స్క్రిప్ట్ను చదవడం కంటే, "Task X is waiting for approval" వంటి సంక్షిప్త వాస్తవాలను చూడటానికి నా అసిస్టెంట్కు సహాయపడుతుంది.
"గుర్తుంచుకోవడం" అంటే ప్రాంప్ట్లోకి ఎక్కువ చాట్ హిస్టరీని నింపడం కాదని నేను తెలుసుకున్నాను. నా అసిస్టెంట్కు, మెమరీ అనేది file-based మరియు scoped. ఇది ఒక వర్క్ఫ్లోను, ఒక వాస్తవాన్ని లేదా ఒక రిఫరెన్స్ను నిల్వ చేయగలదు మరియు అవసరమైనప్పుడు దానిని తిరిగి పొందగలదు.
మీరు ఇప్పటికే ఉన్న టూల్స్ చుట్టూ ఏజెంట్లను నిర్మిస్తుంటే, మీరు అన్నింటినీ ఒకే లూప్లో పెడుతున్నారా, లేదా కంట్రోల్, ఎగ్జిక్యూషన్, అబ్జర్వేషన్ మరియు మెమరీని కూడా విడదీయడం ప్రారంభించారా? Source: https://dev.to/codekingai/my-ai-assistant-needed-a-control-plane-not-a-bigger-loop-15aa Optional learning community: https://t.me/GyaanSetuAi