Google తన TypeScript మరియు Go కోసం Genkit Agents API యొక్క ప్రివ్యూను విడుదల చేసింది. ప్రొడక్షన్-గ్రేడ్ AI ఏజెంట్లను సులభంగా నిర్మించడానికి మరియు నియంత్రించడానికి ఇది “detached turns” మరియు “human-in-the-loop” గార్డ్‌రైల్‌ను జోడిస్తుంది.

ఈ కొత్త API ఎందుకు ముఖ్యమైనది

AI ఏజెంట్లను మోహరించినప్పుడు (deploy చేసినప్పుడు) డెవలపర్లు రెండు సమస్యలతో పోరాడుతున్నారు: మొత్తం పైప్‌లైన్‌ను నిలిపివేసే సుదీర్ఘమైన పనులు (long-running tasks), మరియు సురక్షితమైన, నమ్మదగిన చర్యలను హామీ ఇవ్వడంలో ఉన్న ఇబ్బంది. “Detached turns” అనేది చుట్టుపక్కల వర్క్‌ఫ్లోను లాక్ చేయకుండానే, ఒక ఏజెంట్ సుదీర్ఘమైన ప్రక్రియపై పని చేస్తూ ఉండటానికి అనుమతిస్తుంది, అదే సమయంలో “human-in-the-loop” ఆప్షన్ ఏజెంట్ యొక్క అవుట్‌పుట్‌ను అమలు చేసే ముందు మాన్యువల్ రివ్యూను తప్పనిసరి చేస్తుంది. ఇవి రెండూ కలిసి డౌన్‌టైమ్‌ను తగ్గిస్తాయి మరియు ఖరీదైన తప్పులను నివారిస్తాయి.

దీనికి దారితీసిన ప్రయాణం

ఈ ఏడాది ప్రారంభంలో, ఓపెన్-సోర్స్ ఫ్రేమ్‌వర్క్‌లు మరియు క్లౌడ్ సర్వీసులు కన్వర్సేషనల్ AI కోసం ప్లగ్-అండ్-ప్లే భాగాలను అందించడం ప్రారంభించాయి, కానీ చాలా వరకు డెవలపర్లు స్వంతంగా ఆర్కెస్ట్రేషన్ కోడ్‌ను వ్రాయాల్సి వచ్చేలా చేశాయి. Google యొక్క Genkit, రిక్వెస్ట్ హ్యాండ్లింగ్, స్టేట్ మేనేజ్‌మెంట్ మరియు మోడల్ సెలెక్షన్ వంటి బోయిలర్‌ప్లేట్ (boilerplate) పనులను తొలగించే ఒక హై-లెవల్ SDKతో ఆ లోటును భర్తీ చేస్తుంది.

ఈ ఫీచర్లు నిజంగా ఏమి చేస్తాయి

  • Detached turns: ఒక ఏజెంట్ బాహ్య API నుండి డేటాను పొందాల్సి వచ్చినప్పుడు, మల్టీ-స్టెప్ రీజనింగ్ చైన్‌ను నడపాల్సి వచ్చినప్పుడు లేదా యూజర్ ఇన్‌పుట్ కోసం వేచి ఉండాల్సి వచ్చినప్పుడు, అది ఆ పనిని బ్యాక్‌గ్రౌండ్ ప్రాసెస్‌కు అప్పగిస్తుంది. ప్రధాన వర్క్‌ఫ్లో ఒక ప్లేస్‌హోల్డర్‌ను అందుకుని ముందుకు సాగుతుంది, దీనివల్ల తదుపరి పనులను (downstream tasks) నిలిపివేసే పూర్తి స్థాయి ఆగిపోవడాన్ని నివారించవచ్చు.
  • Human-in-the-loop: ఏజెంట్ యొక్క నిర్ణయం అమలు చేయబడటానికి ముందు—ఉదాహరణకు, లోన్‌ను ఆమోదించడం లేదా డేటాబేస్‌ను అప్‌డేట్ చేయడం—ఒక హ్యూమన్ రివ్యూయర్ కోసం UI ప్రాంప్ట్ కనిపిస్తుంది. రివ్యూయర్ ఆ సూచనను అంగీకరించవచ్చు, సవరించవచ్చు లేదా తిరస్కరించవచ్చు, ఇది ఆటోమేషన్‌ను వదులుకోకుండానే సంస్థలకు ఒక సేఫ్టీ నెట్‌ను అందిస్తుంది.

అభివృద్ధి చెందుతున్న అనుబంధ సాధనాలు

Genkit తో పాటు, AI పైప్‌లైన్‌లతో తరచుగా వచ్చే రెండు ప్రధాన సమస్యలైన ఖర్చు మరియు డీబగ్గింగ్‌ను పరిష్కరించే యుటిలిటీలను ఓపెన్-సోర్స్ కమ్యూనిటీ విడుదల చేస్తోంది.

  • ORA: ఇది సింగిల్ బైనరీగా ప్యాకేజ్ చేయబడిన Go-ఆధారిత టాస్క్ ఆర్కెస్ట్రేటర్. ఇది పెద్ద పనులను చిన్న సబ్ టాస్క్‌లుగా విభజిస్తుంది మరియు ప్రతి దానిని హ్యాండిల్ చేయగల అత్యంత చౌకైన మోడల్‌కు స్వయంచాలకంగా పంపిస్తుంది, తద్వారా టీమ్‌లు క్లౌడ్ ఖర్చులను నియంత్రించడంలో సహాయపడుతుంది.
  • Python AI error explainer: ఇది స్టాక్ ట్రేస్‌లు (stack traces) మరియు క్లిష్టమైన లాగ్‌లను విశ్లేషించి, సరళమైన భాషలో సారాంశం, సంభావ్య కారణం మరియు పరిష్కార మార్గాలను అందిస్తుంది. ముడి ఎర్రర్ డేటాను ఉపయోగకరమైన సమాచారంగా మార్చడం ద్వారా, ఇది డెవలపర్ ఫీడ్‌బ్యాక్ లూప్‌ను వేగవంతం చేస్తుంది.

ఎవరు గెలుస్తారు, ఎవరు ఆందోళన చెందుతారు

తదుపరి ఏమి గమనించాలి

ఈ ప్రివ్యూ తన వాగ్దానాలను నెరవేర్చగలిగితే, AI ఏజెంట్లు కేవలం ప్రయోగాత్మక చాట్‌బాట్‌ల స్థాయి నుండి, వ్యాపారాలు నమ్మదగిన భాగస్వాములుగా మారవచ్చు; అంటే క్లిష్ట పరిస్థితుల్లో స్వయంగా పనిచేయడానికి, ఆగిపోవడానికి మరియు సహాయం కోరడానికి వ్యాపారాలు వీటిని నమ్మవచ్చు.