నిజంగా విడుదలయ్యే ఏజెంట్లు
ఏజెంట్ హైప్ సైకిల్కు స్పష్టమైన సమాధానం ఉంది. ప్రొడక్షన్ ఏజెంట్లతో విజయం సాధిస్తున్న బృందాలు స్వయంప్రతిపత్తి కలిగిన స్వార్మ్స్ను (autonomous swarms) నిర్మించవు. అవి సాధారణమైన (boring) సిస్టమ్స్ను నిర్మిస్తాయి.
ప్రొడక్షన్లో ఏది పనిచేస్తుందో నేను ఒక నెల పాటు గమనించాను. ఆ విధానం స్పష్టంగా ఉంది. డబ్బు సంపాదించే లేదా సమయాన్ని ఆదా చేసే ఏజెంట్లు అనంతమైన లూప్లను (endless loops) కలిగి ఉండవు. అవి పరిశీలించదగినవి (observable). అవి పరిమితమైనవి (bounded). అవసరమైనప్పుడు అవి మానవ సహాయాన్ని కోరుతాయి.
ఇది మీరు ఏజెంట్ ప్లాట్ఫారమ్లను ఎలా అంచనా వేస్తారో మారుస్తుంది.
ప్రొడక్షన్లో ఏజెంట్లను ఉపయోగించే బృందాలు వీటిపై ఆధారపడతాయి:
- మాన్యువల్ ప్రాంప్ట్ కన్స్ట్రక్షన్ (Manual prompt construction)
- ఆఫ్-ది-షెల్ఫ్ మోడల్స్ (Off-the-shelf models)
- మానవ జోక్యం కంటే ముందు 10 దశలు లేదా అంతకంటే తక్కువ దశలతో పరిమితమైన ఎగ్జిక్యూషన్ (Bounded execution)
ఇది ఇంజనీరింగ్ క్రమశిక్షణ.
డెమోలు పూర్తి స్వయంప్రతిపత్తితో కూడిన సెల్ఫ్-కరెక్టింగ్ ఏజెంట్లను చూపిస్తాయి. కానీ నిజంగా విడుదలయ్యే ఏజెంట్లు భిన్నంగా ఉంటాయి. అవి స్పష్టమైన గేట్లను (explicit gates) ఉపయోగిస్తాయి.
ఒక కస్టమర్ సర్వీస్ ఏజెంట్ 5 దశలను నిర్వహించి ఆపై ఎస్కలేట్ చేస్తుంది. ఒక కోడింగ్ ఏజెంట్ టెస్ట్లను రన్ చేస్తుంది కానీ రివ్యూ లేకుండా కోడ్ను మెర్జ్ చేయదు. ఒక డేటా ఏజెంట్ క్వెరీని రన్ చేసే ముందు అనుమతి కోరుతుంది. ఇవి పనిచేసే ఆర్కిటెక్చరల్ ఎంపికలు.
విజయవంతమైన ఏజెంట్లు ఇరుకైన, పునరావృతమయ్యే సమస్యలను పరిష్కరిస్తాయి. అవి రిటర్న్లను హ్యాండిల్ చేయడం, టిక్కెట్లను ట్రైజ్ (triage) చేయడం లేదా కంప్లయన్స్ సమస్యలను గుర్తించడం వంటివి చేస్తాయి. ఇరుకైన పరిధి (Narrow scope) అంటే ఊహించదగిన వైఫల్యాలు మరియు సులభమైన డీబగ్గింగ్ అని అర్థం.
ఏజెంట్లను విడుదల చేయడంలో కష్టమైన భాగం వాటిని మరింత తెలివైనవిగా చేయడం కాదు. వాటిని దృశ్యమానం (visible) మరియు నియంత్రణयोग्य (governable) గా మార్చడం.
బృందాలు తరచుగా విఫలం కావడానికి కారణాలు:
- ఏజెంట్ విఫలమైనప్పుడు అది ఏమి చేసిందో వివరించలేకపోవడం
- తప్పుడు ఫలితాన్ని ట్రాస్ (trace) చేయలేకపోవడం
- ఖర్చు పరిమితులను (cost boundaries) నిర్ణయించలేకపోవడం
- టూల్ అప్రూవల్స్ను అమలు చేయలేకపోవడం
- ఒక నిర్ణయాన్ని అర్థం చేసుకోవడానికి సెషన్ను రీప్లే చేయలేకపోవడం
ఇవి ఇన్ఫ్రాస్ట్రక్చర్ సమస్యలు.
మీరు ఒక ప్లాట్ఫారమ్ను ఎంచుకుంటే, మీ ప్రశ్నలను మార్చుకోండి.
- వేగం గురించి అడగకండి. ప్రతి నిర్ణయాన్ని మరియు ట్రాస్ను మీరు చూడగలరో లేదో అడగండి.
- మోడల్ సపోర్ట్ గురించి అడగకండి. ఒకే చోటు నుండి బహుళ రన్టైమ్లను మీరు నియంత్రించగలరో లేదో అడగండి.
- స్వయంప్రతిపత్తి (autonomy) గురించి అడగకండి. హ్యూమన్ గేట్లను (human gates) జోడించడం ఎంత సులభమో అడగండి.
విజేత ఇన్ఫ్రాస్ట్రక్చర్ అబ్జర్వేషన్, గవర్నెన్స్ మరియు పరిమిత స్వయంప్రతిపత్తిని అందిస్తుంది. ఇది ఒక కంట్రోల్ ప్లేన్ (control plane). ఇది నమ్మదగిన ఏజెంట్లను, తెల్లవారుజామున 3 గంటలకు ప్రొడక్షన్ను పాడుచేసే ఏజెంట్ల నుండి వేరు చేస్తుంది.
ప్రొడక్షన్ బృందాలు ఇకపై తాము ఏజెంట్లను నిర్మించగలమా అని అడగడం లేదు. వాటిని ఎలా నమ్మదగిన రీతిలో ఆపరేట్ చేయాలి అని అడుగుతున్నాయి.
సాధారణమైన (boring) ఇన్ఫ్రాస్ట్రక్చరే విజయం సాధిస్తుంది.
Source: https://dev.to/paultwist/the-agents-that-actually-ship-why-boring-beats-autonomous-49li
Optional learning community: https://t.me/GyaanSetuAi