आपका एजेंट डेमो में काम करता है। आपका एजेंट असल काम में नहीं करता।

अधिकांश एजेंट आर्किटेक्चर असल काम में विफल हो जाते हैं।

एक डेमो एकल कार्य (single task) और तेज़ प्रतिक्रिया के साथ अच्छा दिखता है। असल काम में इंश्योरेंस क्लेम, सेल्स सीक्वेंस, या डेटा रिकॉन्सिलिएशन (data reconciliation) शामिल होते हैं। इन कार्यों में समय और कई चरणों की आवश्यकता होती है।

समस्या 'स्टेटलेसनेस' (statelessness) की है। अधिकांश एजेंट हर बार बातचीत करते समय संदर्भ (context) को शून्य से फिर से बनाते हैं। वे तर्क की श्रृंखला (reasoning chain) और की गई प्रगति को खो देते हैं। अंत में आपके पास एक विनम्र AI बचता है जो स्थिति जानने का ढोंग करता है।

Google Cloud विशेषज्ञों Addy Osmani और Shubham Saboo ने इसे ठीक करने के लिए पांच पैटर्न साझा किए हैं। यहाँ उनका विवरण दिया गया है:

  • Checkpoint-and-Resume अपने एजेंट को एक सर्वर की तरह मानें। काम की हर कुछ इकाइयों के बाद प्रगति (progress) को सहेजें। यदि कोई एजेंट 1,000 में से कार्य 201 पर विफल हो जाता है, तो वह 201 से ही फिर से शुरू करे। शून्य से शुरू न करें।

  • Delegated Approval मानवीय अनुमोदन (human approval) के लिए Slack या ईमेल का उपयोग करना बंद करें। ये उपकरण संदर्भ (context) को तोड़ देते हैं। एजेंट को उसी स्थान पर रोक दें। पूर्ण स्थिति (full state) को बरकरार रखें ताकि मानव के जवाब देने पर वह तुरंत फिर से शुरू हो सके। अनुरोधों और त्रुटियों के लिए एक स्ट्रक्चर्ड इनबॉक्स का उपयोग करें।

  • Memory-Layered Context वर्किंग मेमोरी (working memory) से लॉन्ग-टर्म मेमोरी (long-term memory) को अलग करें। लॉन्ग-टर्म मेमोरी सत्रों (sessions) के दौरान ज्ञान को संग्रहीत करती है। वर्किंग मेमोरी वर्तमान कार्य को संभालती है। आपको 'मेमोरी ड्रिफ्ट' (memory drift) को रोकना होगा जहाँ एजेंट एज केस (edge cases) से बुरी आदतें सीख लेते हैं। खराब डेटा को रोकने के लिए आइडेंटिटी मैनेजमेंट और गवर्नेंस लेयर का उपयोग करें।

  • Ambient Processing ऐसे एजेंट बनाएं जो सपोर्ट टिकट या डेटाबेस परिवर्तनों जैसे डेटा स्ट्रीम पर नज़र रखें। एजेंट में नियमों को हार्डकोड न करें। नियमों को एक बाहरी गवर्नेंस लेयर में रखें। इस तरह, आप एक ही स्थान पर नियमों को अपडेट करते हैं और पूरा बेड़ा (fleet) उनका पालन करता है।

  • Fleet Orchestration स्पेशलिस्ट एजेंटों को प्रबंधित करने के लिए एक कोऑर्डिनेटर एजेंट का उपयोग करें। प्रत्येक स्पेशलिस्ट के पास अपने स्वयं के टूल और पहचान होती है। यह डिस्ट्रिब्यूटेड सिस्टम (distributed systems) में उपयोग किए जाने वाले वर्कर पैटर्न का अनुसरण करता है। आप पूरे सिस्टम को खराब किए बिना एक स्पेशलिस्ट को अपडेट कर सकते हैं।

सबसे बड़ा जोखिम 'मेमोरी ड्रिफ्ट' (memory drift) है।

लोग प्रॉम्प्ट्स (prompts) पर ध्यान केंद्रित करते हैं लेकिन इस बात को नज़रअंदाज़ कर देते हैं कि समय के साथ एजेंट का व्यवहार कैसे बदल जाता है। यदि कोई एजेंट खराब या अजीब बातचीत से सीखता है, तो वह उस कोड की तरह काम करना बंद कर देता है जो आपने लिखा था।

आपको एजेंटों के साथ माइक्रोसर्विसेज (microservices) की तरह व्यवहार करना चाहिए। उन्हें पहचान (identity), एक रजिस्ट्री और सख्त नीति प्रवर्तन (policy enforcement) की आवश्यकता होती है।

खुद से पूछें: मेरे एजेंट को बिना रुके कौन सा सबसे लंबा कार्य करना होगा? यदि उत्तर घंटों या दिनों में है, तो आपको इन पैटर्न्स की आवश्यकता है।

स्रोत: https://dev.to/archit_aggarwal_5310522d5/your-agent-demo-works-your-agent-doesnt-88l

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi