Microsoft యొక్క Foundry టీమ్ తన ఏజెంట్ ఫ్రేమ్‌వర్క్‌కు OpenTelemetry ఆధారిత ట్రేసింగ్‌ను జోడించింది, దీనివల్ల డెవలపర్‌లు వివిధ రకాల LLM-ఆధారిత ఏజెంట్‌ల మధ్య ఎండ్-టు-ఎండ్ ఎగ్జిక్యూషన్‌ను చూడగలుగుతారు.

మల్టీ-ఏజెంట్ సిస్టమ్స్‌కు కేవలం లాగ్ ఫైల్స్ మాత్రమే ఎందుకు సరిపోవు

సాధారణ AI-ఆధారిత ఇన్సిడెంట్-రెస్పాన్స్ డ్రిల్‌లో ఒక కమాండర్ ఏజెంట్ ఉంటుంది, ఇది అనేక స్పెషలిస్ట్ ఏజెంట్‌లను సమన్వయం చేస్తుంది: ఒకటి లాగ్‌లను విశ్లేషిస్తుంది (parse), మరొకటి మెట్రిక్ అనామలీలను గుర్తిస్తుంది, మూడవది లక్షణాలను (symptoms) రన్‌బుక్‌లతో సరిపోల్చుతుంది, మరియు ఒక రూటర్ ప్రతి సబ్-టాస్క్ కోసం ఉత్తమమైన లాంగ్వేజ్ మోడల్‌ను ఎంచుకుంటుంది. ప్రతి స్పెషలిస్ట్ వేర్వేరు మోడల్‌లను—ఉదాహరణకు, “gpt-5-mini” వేరియంట్‌ను—కాల్ చేయవచ్చు మరియు దాని స్వంత టూల్స్‌ను ఉపయోగించవచ్చు. ఏదైనా తప్పు జరిగినప్పుడు, ఇంజనీర్లు ప్రతి కాంపోనెంట్ ఏమి చేసిందో చూపే విడివిడి లాగ్‌లను మాత్రమే చూడగలుగుతారు, కానీ ఆ భాగాలు ఒకదానితో ఒకటి ఎలా కలిసి పనిచేస్తున్నాయో చూడలేరు.

ఏకీకృత ట్రేస్ (unified trace) లేకపోతే, ఏజెంట్‌ల మధ్య జరిగే డేటా బదిలీలో అసలు కారణం (root cause) దాగి ఉంటుంది. కమాండర్ పంపిన రిక్వెస్ట్‌ను లాగ్-రీడర్ సరిగ్గా హ్యాండిల్ చేసినప్పటికీ, మెట్రిక్ స్పెషలిస్ట్ డేటాను తప్పుగా అర్థం చేసుకుని తప్పుడు రన్‌బుక్‌ను సూచించవచ్చు. అటువంటి చైన్‌ను మాన్యువల్‌గా డీబగ్ చేయడం సమయం తీసుకుంటుంది మరియు తప్పులు జరిగే అవకాశం కూడా ఉంది.

OpenTelemetry వర్క్‌ఫ్లోను ఎలా ఏకం చేస్తుంది

OpenTelemetry రెండు ప్రధాన భావనలను నిర్వచిస్తుంది: traces మరియు spans. ట్రేస్ అనేది రిక్వెస్ట్ ప్రారంభం నుండి తుది రెస్పాన్స్ వరకు అనుసరించే ఒక ప్రత్యేక గుర్తింపు సంఖ్య (unique identifier). స్పాన్ అనేది ఆ ట్రేస్‌లో జరిగే ఒకే ఒక ఆపరేషన్‌ను—అంటే లాంగ్వేజ్ మోడల్‌కు కాల్ చేయడం లేదా టూల్ ఇన్‌వోకేషన్ వంటి వాటిని—రికార్డ్ చేస్తుంది.

ఒక ఏజెంట్ రిక్వెస్ట్‌ను స్వీకరించినప్పుడు, అది రిక్వెస్ట్ మెటాడేటా నుండి వచ్చే Trace IDని తీసుకుని, అదే IDని వారసత్వంగా పొందే (inherit) ఒక చైల్డ్ స్పాన్‌ను సృష్టిస్తుంది. ఆ చైల్డ్ స్పాన్ దాని ప్రారంభ సమయం, వ్యవధి (duration), ఆట్రిబ్యూట్స్ (మోడల్ పేరు, ఉపయోగించిన టూల్) మరియు ఏవైనా ఎర్రర్‌లను లాగ్ చేస్తుంది. ఈ ప్రక్రియ ప్రతి డౌన్‌స్ట్రీమ్ ఏజెంట్‌కు పునరావృతమవుతుంది, తద్వారా మొత్తం టాస్క్ యొక్క లాజికల్ ఫ్లోను ప్రతిబింబించే ఒక ట్రీ (tree) నిర్మాణం ఏర్పడుతుంది.

OpenTelemetry Baggageను కూడా సపోర్ట్ చేస్తుంది, ఇది కస్టమ్ కీ-వాల్యూ జంటల కోసం ఒక లైట్‌వెయిట్ క్యారియర్. ట్రేస్ ప్రారంభంలోనే బ్యాగేజ్‌కు “drill-id” లేదా ఇతర బిజినెస్ కాంటెక్స్ట్‌ను జోడించడం ద్వారా, ప్రతి డౌన్‌స్ట్రీమ్ స్పాన్ ఆ ఐడెంటిఫైయర్‌ను ఆటోమేటిక్‌గా పొందుతుంది. ఆ తర్వాత ఒక స్పాన్ ప్రాసెసర్ ఆ బ్యాగేజ్‌ను రెగ్యులర్ ఆట్రిబ్యూట్స్‌గా మారుస్తుంది, దీనివల్ల ఒక నిర్దిష్ట ఇన్సిడెంట్ డ్రిల్‌కు చెందిన అన్ని స్పాన్‌లను సులభంగా క్వెరీ చేయవచ్చు.

కొత్త ట్రేసింగ్ సర్ఫేస్ ఎలా ఉంటుంది

ఇన్‌స్ట్రుమెంటేషన్ సిద్ధంగా ఉన్నప్పుడు, Azure Monitor (లేదా ఏదైనా OpenTelemetry-అనుకూల బ్యాకెండ్) ఒక విజువల్ హైరార్కీని ప్రదర్శిస్తుంది:

  • Agent name / ID – ఏ కాంపోనెంట్ ఆపరేషన్‌ను నిర్వహించిందో చూపుతుంది.
  • Tool usage – ఏ ఎక్స్‌టర్నల్ సర్వీస్ లేదా ఫంక్షన్‌ను కాల్ చేశారో రికార్డ్ చేస్తుంది.
  • Model version – ఉపయోగించిన ఖచ్చితమైన LLMని లాగ్ చేస్తుంది, ఇది మోడల్ అప్‌గ్రేడ్ తర్వాత రిగ్రెషన్లను ట్రాక్ చేయడానికి ఉపయోగపడుతుంది.
  • Token consumption – మోడల్‌కు ఎన్ని టోకెన్లు పంపబడ్డాయి మరియు ఎన్ని తిరిగి వచ్చాయో నమోదు చేస్తుంది, ఇది టీమ్‌లు ఖర్చును నిర్వహించడంలో సహాయపడుతుంది.
  • Latency / duration – మోడల్ ఇన్ఫరెన్స్ లేదా టూల్ I/Oలో ఎక్కడైనా అడ్డంకులు (bottlenecks) ఉన్నాయో లేదో హైలైట్ చేస్తుంది.

ఇన్సిడెంట్-డ్రిల్ ఉదాహరణలో, కమాండర్ యొక్క రూట్ స్పాన్ ప్రతి స్పెషలిస్ట్ కోసం చైల్డ్ స్పాన్‌లను సృష్టిస్తుంది, మరియు ప్రతి స్పెషలిస్ట్ తన మోడల్ కాల్స్ కోసం మరిన్ని చైల్డ్ స్పాన్‌లను సృష్టిస్తుంది. ఏదైనా నోడ్‌పై క్లిక్ చేయడం ద్వారా పూర్తి ఆట్రిబ్యూట్ సెట్‌ను చూడవచ్చు, తద్వారా ఇంజనీర్ ప్రతి ఆపరేషన్ యొక్క వివరాలను తక్షణమే చూడగలుగుతారు.

AI-కేంద్రీకృత ఆపరేషన్ల ప్రాముఖ్యత

  • Root-cause analysis వేగం – టీమ్‌లు ఎర్రర్‌ను చూపించిన ఖచ్చితమైన స్పాన్‌ను గుర్తించడం ద్వారా వైఫల్యాన్ని వెనక్కి ట్రాక్ చేయగలరు, దీనివల్ల సమస్య పరిష్కారానికి పట్టే సమయం (mean time to resolution) తగ్గుతుంది.
  • Cost visibility – టోకెన్ కౌంట్లు లేటెన్సీ పక్కనే ఉంటాయి, దీనివల్ల క్లౌడ్ బిల్లులు పెరిగిపోకముందే ఫైనాన్స్ టీమ్‌లు అదుపులేని వినియోగాన్ని గుర్తించగలరు.
  • Performance tuning – ఏజెంట్‌ల మధ్య ఉన్న హై-లేటెన్సీ స్పాన్‌లు, ఎక్కడైతే క్యాషింగ్ (caching), మోడల్ ఎంపిక లేదా టూల్ రీడిజైన్ ద్వారా త్రూపుట్‌ను పెంచవచ్చో సూచిస్తాయి.

తదుపరి ఏమి చూడాలి

LangChain, OpenAI SDK లేదా ఇతర ఆర్కెస్ట్రేషన్ లేయర్‌లపై నిర్మించిన ప్రాజెక్ట్‌లు GenAI కోసం ఇదే విధమైన సెమాంటిక్ కన్వెన్షన్లను స్వీకరించవచ్చు, ఇది క్లౌడ్ ప్రొవైడర్‌లు మరియు ఆన్-ప్రెమిస్ డిప్లాయ్‌మెంట్‌ల మధ్య ప్రవహించే ట్రేస్‌లకు మార్గం సుగమం చేస్తుంది.

సంస్థలు తమ ఏజెంట్‌లలో OpenTelemetry SDKని ఎనేబుల్ చేసి, డేటాను Azure Monitor లేదా ఓపెన్-సోర్స్ కలెక్టర్‌కు పంపడం ద్వారా దీనిని సులభంగా చేయవచ్చు.

ముగింపు (Takeaway)

విడివిడిగా ఉన్న లాగ్‌లను ఒక సమగ్రమైన కథనంలా మార్చే 'మిస్సింగ్ గ్లూ' (missing glue)ను OpenTelemetry మల్టీ-ఏజెంట్ AI సిస్టమ్స్‌కు అందిస్తుంది. వివిధ రకాల LLMలు, రూటర్లు మరియు టూల్ కాల్స్ ద్వారా ఒకే ఒక Trace IDని వ్యాప్తి చేయడం ద్వారా, డెవలపర్‌లు కొత్త ట్రేసింగ్ ఇన్‌ఫ్రాస్ట్రక్చర్‌ను మళ్ళీ నిర్మించాల్సిన అవసరం లేకుండానే వైఫల్యాలను గుర్తించగలరు, ఖర్చులను పర్యవేక్షించగలరు మరియు పనితీరును ఆప్టిమైజ్ చేయగలరు.