𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗦𝗰𝗼𝗽𝗲𝘀 𝗔𝗻𝗱 𝗧𝗼𝗼𝗹 𝗟𝗶𝗳𝗲𝗰𝘆𝗰𝗹𝗲𝘀
AI एजंट्स तयार करणे कठीण आहे कारण त्यांच्यावर सहज नियंत्रण ठेवता येत नाही. तुम्हाला खर्च मर्यादित करण्याची गरज आहे. तुम्हाला अनियंत्रित लूप्स (runaway loops) थांबवावे लागतील. एखादी रन (run) अयशस्वी झाल्यावर नेमके काय घडले हे तुम्हाला पाहावे लागेल.
मी हे हाताळण्यासाठी एक नवीन पद्धत विकसित केली आहे. यामध्ये AgentScope सोबत runAgent नावाचा एक 'एजंट प्रिमिटिव्ह' (agent primitive) वापरला जातो. यामध्ये बजेट्स, रिप्ले करण्यायोग्य इव्हेंट्स आणि स्ट्रक्चर्ड कॅन्सेलेशनचा समावेश आहे.
ते कसे कार्य करते ते खालीलप्रमाणे आहे:
- टूल फंक्शन्स ही साधी async फंक्शन्स आहेत. यासाठी कोणत्याही जटिल स्कीमाची (complex schemas) आवश्यकता नाही.
- टूल रिझल्ट देण्यापूर्वी बजेट तपासले जाते. जर तुम्ही मर्यादेपर्यंत पोहोचलात, तर सिस्टम संपूर्ण रन रद्द करते.
- रिट्रायज (Retries) आणि टाइमआउट्स टूल लेव्हलवर होतात.
- कॅन्सेलेशन प्रोपगेट (propagate) होते. जर वापरकर्त्याने एजंट थांबवला, तर सिस्टम सक्रिय फेच (fetch) किंवा डेटाबेस क्वेरी त्वरित रद्द करते.
- तुम्हाला रिप्ले करण्यायोग्य लॉग (replayable log) मिळतो. प्रत्येक इव्हेंट टाईप केलेला आणि क्रमाने असतो.
तुम्ही तीन प्रकारचे मर्यादा (limits) सेट करू शकता:
- CostBudget: एकूण खर्च झालेला USD मर्यादित करते.
- OpenAITokens: वापरलेले एकूण टोकन्स मर्यादित करते.
- AgentToolCalls: अनियंत्रित लूप्स थांबवण्यासाठी एकूण टूल कॉल्स मर्यादित करते.
हा दृष्टिकोन इतर फ्रेमवर्क्सपेक्षा वेगळा आहे. बहुतेक फ्रेमवर्क्स जड JSON स्कीमा किंवा लूज टायपिंगचा (loose typing) वापर करतात. त्यांच्याकडे अनेकदा 'फर्स्ट-क्लास बजेट प्रिमिटिव्हज'चा अभाव असतो. सर्व काही एकाच वेळी रद्द करण्यासाठी त्यांच्याकडे कोणतीही एकत्रित पद्धत नसते.
या सिस्टममुळे, तुमचा एजंट तुमच्या ॲप्लिकेशनप्रमाणेच तोच लाइफसायकल शेअर करतो. जर पॅरेंट प्रोसेस (parent process) थांबली, तर एजंटही थांबतो. व्यवस्थापित करण्यासाठी कोणताही दुसरा रनटाइम लागत नाही.
तुम्ही इव्हेंट लॉगचा वापर खालील गोष्टींसाठी करू शकता:
- फेल्युअर हीटमॅप्ससाठी (failure heatmaps) डॅशबोर्ड तयार करणे.
- टेस्ट एन्व्हायरमेंटमध्ये रन रिप्ले करणे.
- टूल सक्सेस इव्हेंट्स पाहून नेमके चार्जेस ऑडिट करणे.
- दोन वेगवेगळ्या रनची तुलना करून ते कुठे वेगळे झाले हे पाहणे.
यामुळे AI एजंट्स प्रेडिक्टेबल आणि प्रोडक्शनसाठी सुरक्षित होतात.
Source: https://github.com/WorkRuntime/workit
Optional learning community: https://t.me/GyaanSetuAi