𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗦𝗰𝗼𝗽𝗲𝘀 𝗔𝗻𝗱 𝗧𝗼𝗼𝗹 𝗟𝗶𝗳𝗲𝗰𝘆𝗰𝗹𝗲𝘀

𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗦𝗰𝗼𝗽𝗲𝘀 𝗔𝗻𝗱 𝗧𝗼𝗼𝗹 𝗟𝗶𝗳𝗲𝗰𝘆𝗰𝗹𝗲𝘀

AI एजेंट बनाना कठिन है क्योंकि आप उन्हें आसानी से नियंत्रित नहीं कर सकते। आपको लागत (costs) को सीमित करने की आवश्यकता है। आपको अनियंत्रित लूप्स (runaway loops) को रोकने की आवश्यकता है। जब कोई रन विफल हो जाता है, तो आपको ठीक-ठीक देखना होगा कि क्या हुआ था।

मैंने इसे संभालने का एक नया तरीका बनाया है। यह AgentScope के साथ runAgent नामक एक एजेंट प्रिमिटिव (agent primitive) का उपयोग करता है। इसमें बजट, रिप्ले करने योग्य इवेंट्स (replayable events) और स्ट्रक्चर्ड कैंसलेशन (structured cancellation) शामिल हैं।

यह इस प्रकार काम करता है:

• टूल फंक्शन साधारण async फंक्शन हैं। किसी जटिल स्कीमा की आवश्यकता नहीं है।
• टूल के रिटर्न करने से पहले बजट की जाँच की जाती है। यदि आप किसी सीमा तक पहुँच जाते हैं, तो सिस्टम पूरे रन को रद्द कर देता है।
• रिट्राइज़ (Retries) और टाइमआउट टूल स्तर पर होते हैं।
• कैंसलेशन प्रोपेगेट (propagate) होता है। यदि कोई उपयोगकर्ता एजेंट को रोकता है, तो सिस्टम सक्रिय फ़ेच (fetch) या डेटाबेस क्वेरी को तुरंत रद्द कर देता है।
• आपको एक रिप्ले करने योग्य लॉग (replayable log) मिलता है। प्रत्येक इवेंट टाइप किया हुआ और क्रमबद्ध होता है।

आप तीन प्रकार की सीमाएँ सेट कर सकते हैं:

• CostBudget: कुल खर्च किए गए USD को सीमित करता है।
• OpenAITokens: उपयोग किए गए कुल टोकन को सीमित करता है।
• AgentToolCalls: अनियंत्रित लूप्स को रोकने के लिए कुल टूल कॉल्स को सीमित करता है।

यह दृष्टिकोण अन्य फ्रेमवर्क से अलग है। अधिकांश फ्रेमवर्क भारी JSON स्कीमा या लूज़ टाइपिंग (loose typing) का उपयोग करते हैं। उनमें अक्सर फर्स्ट-क्लास बजट प्रिमिटिव्स की कमी होती है। उनके पास एक साथ सब कुछ रद्द करने का कोई एकीकृत तरीका नहीं होता है।

इस सिस्टम के साथ, आपका एजेंट आपके एप्लिकेशन के समान ही लाइफसाइकिल साझा करता है। यदि पैरेंट प्रोसेस रुकता है, तो एजेंट भी रुक जाता है। प्रबंधित करने के लिए कोई दूसरा रनटाइम नहीं होता है।

आप इवेंट लॉग का उपयोग कर सकते हैं:

• विफलता हीटमैप्स (failure heatmaps) के लिए डैशबोर्ड बनाने के लिए।
• टेस्ट एनवायरनमेंट में रन को रिप्ले करने के लिए।
• टूल सक्सेस इवेंट्स को देखकर सटीक शुल्क का ऑडिट करने के लिए।
• यह देखने के लिए कि वे कहाँ अलग हुए, दो अलग-अलग रन की तुलना करने के लिए।

यह AI एजेंटों को प्रोडक्शन के लिए अनुमानित (predictable) और सुरक्षित बनाता है।

स्रोत: https://github.com/WorkRuntime/workit

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi