మీ ఏజెంట్ డెమో పనిచేస్తుంది. మీ ఏజెంట్ పనిచేయదు.
చాలా ఏజెంట్ ఆర్కిటెక్చర్లు నిజమైన పనిలో విఫలమవుతాయి.
ఒకే టాస్క్ మరియు వేగవంతమైన స్పందనతో డెమో బాగుంటుంది. కానీ నిజమైన పనిలో ఇన్సూరెన్స్ క్లెయిమ్లు, సేల్స్ సీక్వెన్స్లు లేదా డేటా రీకన్సిలియేషన్ వంటివి ఉంటాయి. ఈ పనులకు సమయం మరియు అనేక దశలు పడుతుంది.
సమస్య 'స్టేట్లెస్నెస్' (statelessness). చాలా ఏజెంట్లు ప్రతిసారి ఇంటరాక్ట్ అయినప్పుడు సందర్భాన్ని (context) సున్నా నుండి మళ్ళీ నిర్మిస్తాయి. అవి రీజనింగ్ చైన్ మరియు సాధించిన పురోగతిని కోల్పోతాయి. దీనివల్ల మీకు పరిస్థితి తెలిసినట్లు నటిస్తూ ఉండే ఒక మర్యాదపూర్వకమైన AI మాత్రమే మిగులుతుంది.
Google Cloud నిపుణులు Addy Osmani మరియు Shubham Saboo దీనిని పరిష్కరించడానికి ఐదు పద్ధతులను (patterns) పంచుకున్నారు. వాటి వివరాలు ఇక్కడ ఉన్నాయి:
Checkpoint-and-Resume మీ ఏజెంట్ను ఒక సర్వర్లా పరిగణించండి. ప్రతి కొన్ని యూనిట్ల పని తర్వాత పురోగతిని (progress) సేవ్ చేయండి. ఒకవేళ 1,000 పనులలో 201వ పని వద్ద ఏజెంట్ విఫలమైతే, అది మళ్ళీ 201 నుండి ప్రారంభమవుతుంది. సున్నా నుండి ప్రారంభించవద్దు.
Delegated Approval మానవ ఆమోదం (human approval) కోసం Slack లేదా ఈమెయిల్ ఉపయోగించడం ఆపండి. ఈ సాధనాలు సందర్భాన్ని (context) దెబ్బతీస్తాయి. ఏజెంట్ను ఉన్న చోటే నిలిపివేయండి (pause). మనిషి స్పందించినప్పుడు అది వెంటనే పునఃప్రారంభం కావడానికి పూర్తి స్టేట్ను (state) అలాగే ఉంచండి. రిక్వెస్ట్లు మరియు ఎర్రర్ల కోసం ఒక స్ట్రక్చర్డ్ ఇన్బాక్స్ను ఉపయోగించండి.
Memory-Layered Context లాంగ్-టర్మ్ మెమరీని వర్కింగ్ మెమరీ నుండి వేరు చేయండి. లాంగ్-టర్మ్ మెమరీ వివిధ సెషన్ల ద్వారా జ్ఞానాన్ని నిల్వ చేస్తుంది. వర్కింగ్ మెమరీ ప్రస్తుత టాస్క్ను నిర్వహిస్తుంది. ఏజెంట్లు ఎడ్జ్ కేస్ల (edge cases) నుండి తప్పుడు అలవాట్లను నేర్చుకునే 'మెమరీ డ్రిఫ్ట్' (memory drift) జరగకుండా మీరు నిరోధించాలి. తప్పుడు డేటాను అడ్డుకోవడానికి ఐడెంటిటీ మేనేజ్మెంట్ మరియు గవర్నెన్స్ లేయర్ను ఉపయోగించండి.
Ambient Processing సపోర్ట్ టిక్కెట్లు లేదా డేటాబేస్ మార్పుల వంటి డేటా స్ట్రీమ్లను గమనించే ఏజెంట్లను నిర్మించండి. ఏజెంట్లోకి రూల్స్ను హార్డ్కోడ్ చేయవద్దు. రూల్స్ను ఒక ఎక్స్టర్నల్ గవర్నెన్స్ లేయర్లో ఉంచండి. ఈ విధంగా, మీరు ఒకే చోట రూల్స్ను అప్డేట్ చేస్తే, మొత్తం ఫ్లీట్ (fleet) వాటిని అనుసరిస్తుంది.
Fleet Orchestration స్పెషలిస్ట్ ఏజెంట్లను నిర్వహించడానికి ఒక కోఆర్డినేటర్ ఏజెంట్ను ఉపయోగించండి. ప్రతి స్పెషలిస్ట్కు దాని స్వంత టూల్స్ మరియు ఐడెంటిటీ ఉంటాయి. ఇది డిస్ట్రిబ్యూటెడ్ సిస్టమ్స్లో ఉపయోగించే వర్కర్ ప్యాటర్న్ను అనుసరిస్తుంది. మొత్తం సిస్టమ్ను దెబ్బతీయకుండా మీరు ఒక స్పెషలిస్ట్ను అప్డేట్ చేయవచ్చు.
అతిపెద్ద ప్రమాదం మెమరీ డ్రిఫ్ట్ (memory drift).
ప్రజలు ప్రాంప్ట్లపై దృష్టి పెడతారు కానీ కాలక్రమేణా ఏజెంట్ ప్రవర్తన ఎలా మారుతుందో పట్టించుకోరు. ఒకవేళ ఏజెంట్ తప్పుడు లేదా వింత ఇంటరాక్షన్ల నుండి నేర్చుకుంటే, అది మీరు రాసిన కోడ్ లాగా పనిచేయడం ఆగిపోతుంది.
మీరు ఏజెంట్లను మైక్రోసర్వీస్లలాగా పరిగణించాలి. వాటికి ఐడెంటిటీ, రిజిస్ట్రీ మరియు కఠినమైన పాలసీ ఎన్ఫోర్స్మెంట్ అవసరం.
మిమ్మల్ని మీరు ఇలా ప్రశ్నించుకోండి: నా ఏజెంట్ ఆగకుండా చేయవలసిన అతి పొడవైన టాస్క్ ఏమిటి? సమాధానం గంటలు లేదా రోజులు అయితే, మీకు ఈ పద్ధతులు అవసరం.
మూలం: https://dev.to/archit_aggarwal_5310522d5/your-agent-demo-works-your-agent-doesnt-88l
ఐచ్ఛిక అభ్యాస సమూహం: https://t.me/GyaanSetuAi