AI एजंट्सना सर्किट ब्रेकर्सची गरज आहे

लोक AI reasoning, planning आणि memory बद्दल बोलतात.

एखादा एजंट अपयशी ठरला तर काय होते, याबद्दल ते क्वचितच बोलतात.

स्वायत्त (autonomous) वर्कफ्लो तपासताना मी हे लक्षात आणून घेतले. एजंट क्रॅश झाला नाही. त्याने कोणतीही त्रुटी (errors) दाखवली नाही.

त्याने फक्त अधिक प्रयत्न केले.

एक टूल कॉल (tool call) अयशस्वी झाला. एजंटने पुन्हा प्रयत्न केला. ते देखील अयशस्वी झाले. त्याने नवीन योजना तयार केली. त्याने अधिक टूल्स कॉल केले. तो एका चक्रात अडकत गेला.

बाहेरून ते उत्पादक वाटत होते. पण आतून ते एका लूपमध्ये अडकले होते.

डिस्ट्रिब्युटेड सिस्टम्समध्ये (distributed systems), इंजिनिअर्स सर्किट ब्रेकर्सचा वापर करतात. जर एखादी सर्व्हिस फेल झाली, तर तुम्ही रिक्वेस्ट पाठवणे थांबवता. तुम्ही सिस्टमच्या उर्वरित भागाचे संरक्षण करता.

AI एजंट्सना देखील याची गरज आहे.

एक स्वायत्त एजंट APIs कॉल करतो, कोड डिप्लॉय करतो आणि टोकन्स खर्च करतो. गार्डरेल्स (guardrails) शिवाय, एक छोटी चूकही महागडी ठरू शकते.

कल्पना करा की एखादा एजंट ॲप्लिकेशन डिप्लॉय करत आहे. डिप्लॉयमेंट अयशस्वी होते. एजंट पुन्हा प्रयत्न करतो. ते पुन्हा अयशस्वी होते. तो एक सेटिंग बदलतो आणि पुन्हा प्रयत्न करतो. प्रत्येक कृतीमुळे त्रुटी अधिक गंभीर होत जाते.

मॉडेल समस्या नाही. मर्यादांशिवाय असलेली बुद्धिमत्ता अनपेक्षित असते.

सर्किट ब्रेकर त्या मर्यादा तयार करतो. तो:

  • खूप वेळा अयशस्वी प्रयत्न झाल्यानंतर एक्झिक्यूशन थांबवू शकतो.
  • खर्च मर्यादेपर्यंत पोहोचल्यावर वर्कफ्लो थांबवू शकतो.
  • प्रोडक्शनला स्पर्श करण्यापूर्वी मानवी मंजुरी मागू शकतो.
  • तुम्ही त्यांची पडताळणी करेपर्यंत धोकादायक कृती रोखू शकतो.

सर्किट ब्रेकर्स स्वायत्तता कमी करत नाहीत. ते विश्वास निर्माण करतात.

एजंट्सना कसे वागावे हे शिकवण्यासाठी आपण वेळ घालवतो. त्यांना कधी थांबायचे हे शिकवण्यासाठी देखील आपण वेळ घालवला पाहिजे.

प्रोडक्शनमध्ये, पुढे काय करायचे हे जाणून घेण्यापेक्षा कधी थांबायचे हे जाणून घेणे जास्त महत्त्वाचे आहे.

Source: https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj

Optional learning community: https://t.me/GyaanSetuAi