ఒక స్వయంప్రతిపత్తి కలిగిన (autonomous) AI ఏజెంట్ కేవలం ఇరవై నిమిషాల్లో పూర్తి స్థాయి Retrieval-Augmented Generation (RAG) స్టాక్ను నిర్మించి, మనిషి రాసిన ఒక్క లైన్ కోడ్ కూడా లేకుండా ఒక డ్రాఫ్ట్ పుల్ రిక్వెస్ట్ను (pull request) ఓపెన్ చేసింది.
“లూప్” (loop) ఎందుకు ముఖ్యం
ఒక RAG స్టాక్ను సృష్టించడం అంటే సాధారణంగా ఒక సెర్చ్ ఇంజిన్, ఎంబెడ్డింగ్ మోడల్, లాంగ్వేజ్ మోడల్ మరియు గ్లూ కోడ్ను (glue code) కలిపి నిర్మించడం అని అర్థం. డెవలపర్లు Helm chartsలను సర్దుబాటు చేయడానికి, auth లోపాలను సరిదిద్దడానికి మరియు సరిపోని మోడల్ పేర్ల కోసం వెతకడానికి గంటల సమయాన్ని వృథా చేస్తారు. ఈ పరీక్షలో, స్వయంప్రతిపత్తి కలిగిన ఏజెంట్ కోడ్ రాయకముందే మనిషి మరియు ఏజెంట్ మధ్య ఒప్పందాన్ని (agreement) తప్పనిసరి చేసే ఐదు దశల లూప్ను అనుసరించింది.
| దశ | ఏమి జరుగుతుంది |
|---|---|
| ప్రతిపాదన (Proposal) | ఏజెంట్ ప్రాంప్ట్ను చదివి ఒక స్పష్టమైన ప్రణాళికను సిద్ధం చేస్తుంది, కానీ ఇంకా కోడ్ను రూపొందించదు. |
| ఒప్పందం (Agreement) | వినియోగదారు ప్రణాళికను సమీక్షిస్తారు, దానిని ఆమోదిస్తారు లేదా మార్పులను కోరుతారు. |
| అమలు (Implementation) | ఏజెంట్ కొత్త బ్రాంచ్ (branch) పై ఫీచర్ను నిర్మిస్తుంది. |
| డ్రాఫ్ట్ గేట్ (Draft Gate) | ఏజెంట్ తన స్వంత linting మరియు టెస్ట్ సూట్ను రన్ చేసి, తప్పులను సరిదిద్దుతుంది. |
| డ్రాఫ్ట్ PR (Draft PR) | కోడ్ను పుష్ చేసి, తుది మానవ సమీక్ష కోసం పుల్ రిక్వెస్ట్ను ఓపెన్ చేస్తారు. |
చాలా AI-సహాయక కోడింగ్ టూల్స్ నేరుగా అమలు (implementation) దశకు వెళ్ళిపోతాయి, దీనివల్ల తరచుగా లక్ష్యాన్ని చేరుకోని కోడ్ తయారవుతుంది. ఒక స్పష్టమైన ఒప్పంద దశను చేర్చడం ద్వారా, ఈ లూప్ గుడ్డిగా అమలు చేయడాన్ని నిలిపివేస్తుంది మరియు ఏ కమిట్ (commit) జరగకముందే వినియోగదారు ప్రాజెక్ట్ను నడిపించేలా చేస్తుంది.
వాస్తవ రూపం దాల్చిన స్టాక్
ఇరవై నిమిషాల్లో ఏజెంట్ ప్రొడక్షన్-రెడీ (production-ready) RAG పైప్లైన్ను సిద్ధం చేసింది:
- OpenSearch 3.7 హైబ్రిడ్ సెర్చ్ (vector + keyword) కోసం కాన్ఫిగర్ చేయబడింది.
- రిట్రీవల్-ఆగ్మెంటెడ్ (retrieval-augmented) స్పందనల కోసం జనరేటివ్ ఇంజిన్గా పనిచేసే Local Ollama LLM.
- లాంగ్వేజ్ మోడల్కు నాలుగు కస్టమ్ టూల్స్ను అందించే FastMCP server.
- కంటైనర్ బిల్డ్స్, Kubernetes మానిఫెస్ట్లు మరియు సర్వీస్ డిప్లాయ్మెంట్ను ఆటోమేట్ చేసే Skaffold మరియు Helm స్క్రిప్ట్లు.
ఈ పైప్లైన్లో ముప్పై ఆర్టికల్స్ను జోడించడం వల్ల, ఎండ్-టు-ఎండ్ రిట్రీవల్ మరియు జనరేషన్ను వెంటనే పరీక్షించడానికి వీలైంది. ఒక డెవలపర్ సాధారణంగా ప్రతి కాంపోనెంట్ను కాన్ఫిగర్ చేయడానికి పూర్తి రోజు సమయం తీసుకుంటారు; ఈ వేగం అద్భుతమైనది.
దాదాపు విఫలం చేసేలా చేసిన బగ్స్ (bugs)
సాధారణంగా మనిషి నిర్వహించే డిప్లాయ్మెంట్ను నిలిపివేసే ఐదు విభిన్న వైఫల్యాలతో ఏజెంట్ యొక్క నమ్మకం పరీక్షించబడింది:
- OpenSearch క్రెడెన్షియల్ లోపాలు – ఏజెంట్ తప్పు సీక్రెట్ కీని అందించడం వల్ల క్లస్టర్ కనెక్షన్లను తిరస్కరించింది.
- URLలో Regex టైపో – ఒకే ఒక్క తప్పు అక్షరం వల్ల సరైన ఎండ్పాయింట్ డెడ్ లింక్గా మారి, డేటా లోడర్ను దెబ్బతీసింది.
- మోడల్ పేరు సరిపోకపోవడం – కనెక్టర్ వేరొక Ollama మోడల్ ఐడెంటిఫైయర్ను ఆశించడం వల్ల, “model not found” లోపాలు వచ్చాయి.
- JVM మెమరీ పరిమితులు – బల్క్ ఇండెక్సింగ్ వల్ల Java heap పూర్తిగా వాడబడటంతో, out-of-memory క్రాష్లు సంభవించాయి.
- మోడల్ చంక్స్ (chunks) అనుకోకుండా తొలగించబడటం – క్లీనప్ స్క్రిప్ట్ ముఖ్యమైన ఫైళ్లను డూప్లికేట్లుగా గుర్తించి తొలగించడం వల్ల, మొత్తం పైప్లైన్ ప్రమాదంలో పడింది.
ఏజెంట్ ఇబ్బందుల్లో పడినప్పుడు, “loop-police” రంగంలోకి దిగింది
loop-police అని పిలువబడే ఒక తోడు వాచ్డాగ్ (watchdog) లూప్ యొక్క ఆరోగ్యాన్ని పర్యవేక్షిస్తుంది. డిలీషన్ బగ్ సమయంలో ఏజెంట్ ముగింపు లేని సైకిల్లోకి ప్రవేశించినప్పుడు, loop-police ఆ నిలిచిపోవడాన్ని గుర్తించి, ప్రస్తుత బ్రాంచ్ను రద్దు చేసి, మళ్ళీ ఒప్పంద (Agreement) దశకు వెళ్లేలా చేసింది. అప్పుడు ఏజెంట్ తన తప్పును గుర్తించి, పాడైన స్థితిని (corrupted state) క్లియర్ చేసి, పైప్లైన్ను మొదటి నుండి మళ్ళీ నిర్మించింది. ప్రారంభ ప్రణాళిక ఆమోదం తర్వాత, మానవ జోక్యం లేకుండానే ఈ సెల్ఫ్-హీలింగ్ (self-healing) సైకిల్ పూర్తయింది.
ఇది డెవలపర్లకు ఏం చెబుతోంది
- నియంత్రణను కోల్పోకుండా వేగం. ఈ లూప్ ఇంజనీర్లకు తమ ఉద్దేశాన్ని (intent) తెలియజేయడానికి వీలు కల్పిస్తుంది, ఆపై మానవుడు ఆమోదించిన బ్లూప్రింట్ను అనుసరించే స్వయంప్రతిపత్తి వ్యవస్థకు అమలును అప్పగిస్తుంది.
- ఇన్బిల్ట్ సేఫ్టీ నెట్స్. ఆటోమేటెడ్ linting, టెస్టింగ్ మరియు నియంత్రణ లేని లూప్ను నిలిపివేసే వాచ్డాగ్ ఉండటం వల్ల సైలెంట్ ఫెయిల్యూర్స్ (silent failures) ప్రమాదం తగ్గుతుంది.
- తక్కువ పరిమితులు. Helm, Kubernetes లేదా వెక్టర్-సెర్చ్ నైపుణ్యం లేని బృందాలు కూడా తమకు కావాల్సిన దానిని సాధారణ భాషలో వివరించడం ద్వారా ఒక ఫంక్షనల్ స్టాక్ను సిద్ధం చేసుకోవచ్చు.
ఈ విధానం అన్ని సమస్యలకు ఒకే పరిష్కారం (silver bullet) కాదు. అవాస్తవిక అంచనాలను లేదా భద్రతా ఆందోళనలను గుర్తించడానికి Agreement దశలో ఇప్పటికీ అనుభవజ్ఞుడైన రివ్యూయర్ అవసరం. ఈ లూప్ డొమైన్ నైపుణ్యాన్ని (domain expertise) భర్తీ చేయదు; ఇది కేవలం పునరావృతమయ్యే ప్లంబింగ్ పనులను (repetitive plumbing work) ఒక పునరావృతమయ్యే నమూనాగా (repeatable pattern) మారుస్తుంది.
