𝗚𝗼𝗼𝗴𝗹𝗲 𝗜𝗻𝗳𝗿𝗮𝘀𝘁𝗿𝘂𝗰𝘁𝘂𝗿𝗲 𝘁𝗼 𝘀𝗼𝗹𝘃𝗲 𝗰𝗵𝗲𝘀𝘁𝗵𝘂𝗻𝗱𝗶, 𝗚𝗼𝘃𝗲𝗿𝗻𝗮𝗻𝗰𝗲 𝗻𝗼𝗸𝗸𝗮𝘁𝗶

Google I/O 2026, Gemini APIలో Managed Agentsను పరిచయం చేసింది. ఈ సాధనం ఎంటర్‌ప్రైజ్ టీమ్‌లకు ఒక మేనేజ్డ్ రన్‌టైమ్‌ను అందిస్తుంది. ఇది sandboxes, credential injection మరియు persistent stateలను నిర్వహిస్తుంది.

ఇది ఇన్‌ఫ్రాస్ట్రక్చర్ సమస్యను పరిష్కరిస్తుంది. కానీ AI ఏజెంట్ ప్రాజెక్ట్‌లను విఫలం చేసే సమస్యను ఇది పరిష్కరించదు.

చాలా టీమ్‌లు తప్పు అంశంపై దృష్టి పెడుతున్నాయి. వారు ఆకర్షణీయమైన డెమోలను రూపొందిస్తారు. ఒక ఏజెంట్ విమాన టికెట్ బుక్ చేయడం లేదా ఒక ప్రశ్నకు సమాధానం ఇవ్వడం వంటివి చూపిస్తారు. ఈ డెమోలు చూడటానికి బాగుంటాయి కానీ ప్రొడక్షన్‌లో విఫలమవుతాయి.

నిజమైన ఎంటర్‌ప్రైజ్ వర్క్‌ఫ్లోలకు కేవలం చాట్ UI మాత్రమే సరిపోదు. ఒక సపోర్ట్ ఏజెంట్ ప్రశ్నకు సమాధానం ఇస్తే దాని పని పూర్తయినట్లు కాదు. అది ఒక టికెట్‌ను అప్‌డేట్ చేసినప్పుడు, రీఫండ్‌ను జారీ చేసినప్పుడు మరియు Salesforce లేదా ServiceNow వంటి వివిధ సిస్టమ్‌ల ద్వారా కస్టమర్‌కు నోటిఫై చేసినప్పుడు మాత్రమే దాని పని పూర్తయినట్లు లెక్క.

స్టాండర్డ్ RAG సెటప్‌లు ఇక్కడ విఫలమవుతాయి, ఎందుకంటే వాటిలో మూడు అంశాలు లోపించాయి:

  • స్టేట్ (State) లేదు: ప్రతి సంభాషణ కొత్తగా ప్రారంభమవుతుంది.
  • రైట్ యాక్సెస్ (Write access) లేదు: అవి డేటాను చదవగలవు కానీ రికార్డులను అప్‌డేట్ చేయలేవు.
  • అథరైజేషన్ (Authorization) లేదు: సున్నితమైన చర్యలను నియంత్రించడానికి మార్గం లేదు.

Google తన Managed Agents APIతో ఇంజిన్‌ను నిర్మించింది. కానీ బ్రేక్‌లను నిర్మించలేదు. API ఎగ్జిక్యూషన్‌ను నిర్వహిస్తుంది, కానీ మీరు ట్రస్ట్ బౌండరీలను (trust boundaries) నిర్వహించాలి.

రాబోయే 12 నెలల ఎంటర్‌ప్రైజ్ AI, గవర్నెన్స్‌లో నైపుణ్యం సాధించే టీమ్‌లకే చెందుతుంది. మీరు దీనిని కేవలం బ్యాకెండ్ ఇంటిగ్రేషన్ సమస్యగా భావిస్తే, మీరు విఫలమవుతారు. మీరు దీనిని సిస్టమ్స్ గవర్నెన్స్ సమస్యగా భావిస్తే, మీరు విజయవంతంగా విడుదల చేయగలరు (ship చేయగలరు).

ప్రొడక్షన్-రెడీ ఏజెంట్‌లను నిర్మించడానికి ఈ 7-లేయర్ ఫ్రేమ్‌వర్క్‌ను ఉపయోగించండి:

  • Interface: UI లేదా ట్రిగ్గర్.
  • Orchestrator: లక్ష్యాలను దశలుగా విభజించి, హ్యూమన్ అప్రూవల్ గేట్‌లను నిర్వహిస్తుంది.
  • Model: సాండ్‌బాక్స్ (sandbox) లోపల ఉండే రీజనింగ్ ఇంజిన్.
  • Tool/API Layer: ప్రతి ఇంటిగ్రేషన్ కనిష్ట మరియు స్పష్టమైన స్కోప్‌తో ఉండాలి.
  • Knowledge Layer: వర్క్‌ఫ్లోకు మద్దతుగా RAG.
  • Sandbox: ఐసోలేటెడ్ ఎగ్జిక్యూషన్ ఎన్విరాన్‌మెంట్.
  • Audit: ప్రతి చర్య కోసం లాగ్‌లు మరియు తప్పులను సరిదిద్దడానికి ఒక మార్గం.

ఒక వెండర్‌ను వారి ఏజెంట్ ఏమి చేయగలదు అనే దాని ఆధారంగా ఎంచుకోవద్దు. ఏజెంట్‌కు ఏమి చేయడానికి అనుమతి ఉంది అనే దానిని వారు ఎలా నియంత్రిస్తారు అనే దాని ఆధారంగా వెండర్‌ను ఎంచుకోండి.

మీ పైలట్ ప్రాజెక్ట్‌ల కోసం ఈ నియమాలను పాటించండి:

  • వర్క్‌ఫ్లోలను రిస్క్ స్థాయిల ఆధారంగా మ్యాప్ చేయండి.
  • మొదట లెగసీ సిస్టమ్‌ల కోసం తక్కువ పరిధి గల API రాపర్‌లను (wrappers) నిర్మించండి.
  • మొత్తం వర్క్‌ఫ్లోలకు కాకుండా, నిర్దిష్ట చర్యలకు రిస్క్ టైర్‌లను కేటాయించండి.
  • ఏజెంట్ ఎప్పుడు మనిషికి (human) అప్పగించాలో (escalate) ఆ సమయాన్ని పరీక్షించండి.
  • సమస్యలు ఎక్కడ ఉన్నాయో తెలుసుకోవడానికి అప్రూవల్ ఫ్రీక్వెన్సీని పర్యవేక్షించండి.

ఇన్‌ఫ్రాస్ట్రక్చర్ ఇప్పుడు ఒక సాధారణ వస్తువు (commodity). నమ్మకం (Trust) మరియు నియంత్రణ (Control) అనేవి కొత్త తేడాను చూపే అంశాలు (differentiators).

Source: https://dev.to/haleyy/googles-managed-agents-api-solves-infrastructure-not-the-problem-that-actually-kills-agent-33e0

Optional learning community: https://t.me/GyaanSetuAi