𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗡𝗲𝗲𝗱 𝗖𝗶𝗿𝗰𝘂𝗶𝘁 𝗕𝗿𝗲𝗮𝗸𝗲𝗿𝘀

ప్రజలు AI రీజనింగ్, ప్లానింగ్ మరియు మెమరీ గురించి మాట్లాడుతుంటారు.

ఒక ఏజెంట్ విఫలమైనప్పుడు ఏమి జరుగుతుందనే దాని గురించి వారు అరుదుగా మాట్లాడుతుంటారు.

స్వయంప్రతిపత్త వర్క్‌ఫ్లోలను (autonomous workflows) పరీక్షిస్తున్నప్పుడు నేను దీనిని గమనించాను. ఏజెంట్ క్రాష్ కాలేదు. అది ఎటువంటి ఎర్రర్లను చూపలేదు.

అది కేవలం మరింత ప్రయత్నించింది.

ఒక టూల్ కాల్ (tool call) విఫలమైంది. ఏజెంట్ మళ్ళీ ప్రయత్నించింది. అది కూడా విఫలమైంది. అది కొత్త ప్లాన్ వేసింది. మరిన్ని టూల్స్‌ను పిలిచింది. అది ఒక సుడిగుండంలో చిక్కుకున్నట్లుగా (spiraling) కొనసాగింది.

బయట నుండి చూస్తే అది ఉత్పాదకతతో ఉన్నట్లు అనిపించింది. కానీ లోపల అది ఒక లూప్‌లో చిక్కుకుపోయింది.

డిస్ట్రిబ్యూటెడ్ సిస్టమ్స్‌లో (distributed systems), ఇంజనీర్లు సర్క్యూట్ బ్రేకర్లను ఉపయోగిస్తారు. ఒక సర్వీస్ విఫలమైతే, మీరు రిక్వెస్ట్‌లను పంపడం ఆపివేస్తారు. తద్వారా మిగిలిన సిస్టమ్‌ను రక్షిస్తారు.

AI ఏజెంట్లకు కూడా ఇది అవసరం.

ఒక స్వయంప్రతిపత్త ఏజెంట్ APIలను పిలుస్తుంది, కోడ్‌ను డిప్లాయ్ చేస్తుంది మరియు టోకెన్లను ఖర్చు చేస్తుంది. గార్డ్‌రైల్స్ (guardrails) లేకపోతే, ఒక చిన్న తప్పు కూడా భారీ ఖర్చుకు దారితీస్తుంది.

ఒక ఏజెంట్ అప్లికేషన్‌ను డిప్లాయ్ చేస్తున్నట్లు ఊహించుకోండి. ఆ డిప్లాయ్‌మెంట్ విఫలమైంది. ఏజెంట్ మళ్ళీ ప్రయత్నిస్తుంది. అది మళ్ళీ విఫలమవుతుంది. అది ఒక సెట్టింగ్‌ను మార్చి మళ్ళీ ప్రయత్నిస్తుంది. ప్రతి చర్య కూడా ఆ తప్పును మరింత తీవ్రం చేస్తుంది.

మోడల్ సమస్య కాదు. పరిమితులు లేని తెలివితేటలు ఊహించలేనివి.

సర్క్యూట్ బ్రేకర్ ఆ పరిమితులను సృష్టిస్తుంది. అది చేయగలిగేవి:

  • మరీ ఎక్కువ సార్లు ప్రయత్నాలు విఫలమైన తర్వాత ఎగ్జిక్యూషన్‌ను ఆపివేయడం.
  • ఖర్చులు ఒక పరిమితికి చేరుకున్నప్పుడు వర్క్‌ఫ్లోను నిలిపివేయడం.
  • ప్రొడక్షన్‌ను తాకకముందే మానవ ఆమోదం కోరడం.
  • మీరు వాటిని ధృవీకరించే వరకు ప్రమాదకరమైన చర్యలను నిరోధించడం.

సర్క్యూట్ బ్రేకర్లు స్వయంప్రతిపత్తిని తగ్గించవు. అవి నమ్మకాన్ని నిర్మిస్తాయి.

ఏజెంట్లు ఎలా ప్రవర్తించాలో నేర్పించడానికి మనం సమయం కేటాయిస్తాము. కానీ అవి ఎప్పుడు ఆగాలో నేర్పించడానికి కూడా మనం సమయం కేటాయించాలి.

ప్రొడక్షన్‌లో, తర్వాత ఏమి చేయాలో తెలుసుకోవడం కంటే, ఎప్పుడు ఆగాలో తెలుసుకోవడం చాలా ముఖ్యం.

Source: https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj

Optional learning community: https://t.me/GyaanSetuAi