వారు ఎన్ని AI ఏజెంట్లను నడుపుతున్నారో ఎవరికీ తెలియదు
ఇన్ఫ్రాస్ట్రక్చర్ టీమ్లు వర్చువల్ మెషీన్లను సులభంగా లెక్కించగలరు. వారు మీకు Kubernetes క్లస్టర్ల కోసం ఒక డాష్బోర్డ్ను చూపించగలరు.
కానీ AI ఏజెంట్ ఇన్వెంటరీ గురించి అడిగితే, చర్చ మారుతుంది. ప్రజలు నిర్వచనాల గురించి వాదించడం ప్రారంభిస్తారు.
ఈ చర్చే అసలు సమస్య. ఏది ఏజెంట్గా పరిగణించబడాలి అనే విషయంపై నిర్ణయం తీసుకోకపోవడం వల్ల చాలా కంపెనీలు ఏజెంట్లను ఇన్వెంటరీ చేయలేకపోతున్నాయి.
వర్గీకరణ కష్టమైన పని. ఈ ఉదాహరణలను చూడండి:
- షెడ్యూల్ చేయబడిన GPT వర్క్ఫ్లో: బహుశా. ఇది ఒక మోడల్ను ఉపయోగిస్తుంది కానీ స్వయంప్రతిపత్తి కలిగిన లాజిక్ (autonomous logic) ఉండదు.
- Copilot Studio వర్క్ఫ్లో: బహుశా. ఇది ఒంటరిగా పనిచేస్తుంది కానీ యాజమాన్యం సృష్టికర్త వద్దే ఉంటుంది.
- LLMతో n8n ఆటోమేషన్: ఆధారపడి ఉంటుంది. అది నిర్ణయాలు తీసుకుంటుందా లేదా కేవలం డేటాను రూట్ (route) చేస్తుందా అనే దానిపై ఇది ఆధారపడి ఉంటుంది.
- Bedbed Agent: అవును. దీనికి మేనేజ్డ్ రన్టైమ్ మరియు ట్రాక్ చేయబడిన టూల్ గ్రాంట్స్ (tool grants) ఉంటాయి.
చాలా కంపెనీలు ఏజెంట్లను సాధారణ వర్క్ఫ్లోలుగా పరిగణిస్తాయి. ఇది ఒక తప్పు.
వర్క్ఫ్లో ఒక నిర్ణీత మార్గాన్ని అనుసరిస్తుంది. ఏజెంట్ నిర్ణయాలు తీసుకుంటుంది మరియు చర్యలు చేపడుతుంది. ఈ తేడా మీరు వాటిని ఎలా నియంత్రిస్తారనే దానిని మారుస్తుంది.
ఏజెంట్లు అధికారిక ఇన్ఫ్రాస్ట్రక్చర్ ప్రొక్యూర్మెంట్ (procurement) ద్వారా రాలేదు. అవి బిజినెస్ యూజర్లు, డెవలపర్లు మరియు SaaS టూల్స్ ద్వారా వచ్చాయి. అవి సాధారణ రిక్వెస్ట్ మరియు ట్రాకింగ్ సిస్టమ్లను దాటవేసి వచ్చాయి.
మీరు ఒక ఏజెంట్ను వర్క్ఫ్లోగా వర్గీకరించినప్పుడు, అది మీ ఇన్వెంటరీలో కనిపించకుండా పోతుంది.
మీరు వాటిని నిర్వచించినప్పటికీ, వాటిని లెక్కించడం కష్టం. ఏజెంట్లు తరచుగా స్టేట్లెస్ (stateless) గా ఉంటాయి. పని ముగియగానే అవి నడవడం ఆగిపోతాయి, కానీ వాటి అనుమతులు (permissions) యాక్టివ్గానే ఉంటాయి. అవి నిద్రాణంగా (dormant) ఉంటాయి తప్ప, పోలేరు.
ఈ అంతరం ప్రమాదాల గొలుసును సృష్టిస్తుంది: తెలియని సంఖ్య → తెలియని యాజమాన్యం → తెలియని అధికారం → తెలియని రిస్క్
ప్రాథమిక ఏజెంట్ ఇన్వెంటరీ ఈ ప్రశ్నలకు సమాధానం ఇవ్వాలి:
- యజమాని ఎవరు?
- అధికార స్థాయి ఏమిటి?
- అది ఏ టూల్స్ను యాక్సెస్ చేయగలదు?
- అది ఎలా ప్రారంభమవుతుంది?
- అది చివరిసారిగా ఎప్పుడు యాక్టివ్గా ఉంది?
- దానిని ఎప్పుడు రిటైర్ చేయాలి?
అధికార స్థాయి అత్యంత ముఖ్యమైన భాగం. రెండు ఏజెంట్లు ఒకే రకమైన టూల్స్ను యాక్సెస్ చేయవచ్చు కానీ వాటి శక్తి స్థాయిలు వేరుగా ఉండవచ్చు. ఒకటి కేవలం డేటాను చదవగలదు, మరొకటి పేమెంట్లను ఆమోదించగలదు.
ఏజెంట్లను లెక్కించడం అనేది ఇన్వెంటరీ టాస్క్. వాటి శక్తిని అర్థం చేసుకోవడం అనేది ఆర్కిటెక్చర్ టాస్క్.
మీ కంపెనీ అంతటా ఏజెంట్ అంటే ఏమిటో మీరు నిర్వచించాలి. మీరు అలా చేసే వరకు, మీ ఇన్వెంటరీ ఎల్లప్పుడూ అసంపూర్తిగానే ఉంటుంది.
Source: https://dev.to/ntctech/nobody-knows-how-many-ai-agents-theyre-running-26g5
Optional learning community: https://t.me/GyaanSetuAi