आपके AI एजेंट में कितनी स्वायत्तता (autonomy) होनी चाहिए?

लोग अक्सर AI एजेंटों को अधिक स्वायत्त बनाने पर ध्यान केंद्रित करते हैं। वे अधिक तर्क (reasoning) और अधिक योजना (planning) चाहते हैं। वे अधिक स्वतंत्रता चाहते हैं।

यह प्रगति जैसा लगता है। लेकिन अधिक स्वायत्तता हमेशा समाधान नहीं होती है।

सॉफ्टवेयर इंजीनियर हमेशा 'अधिक' के लिए निर्माण नहीं करते हैं। आप माइक्रोसर्विसेज (microservices) का उपयोग केवल इसलिए नहीं करते क्योंकि वे लोकप्रिय हैं। आप एक ऐसा आर्किटेक्चर चुनते हैं जो क्षमता और जटिलता के बीच संतुलन बनाए रखता है।

यही नियम AI पर भी लागू होता है। यह न पूछें कि एक एजेंट कितना स्वायत्त हो सकता है। यह पूछें कि उसे कितना स्वायत्त होना चाहिए।

स्वायत्तता एक डिज़ाइन निर्णय है। हर बार जब आप किसी एजेंट को निर्णय लेने देते हैं, तो आप उसकी जिम्मेदारी बढ़ाते हैं। यह लाभ तो लाता है, लेकिन इंजीनियरिंग चुनौतियाँ भी लाता है।

उच्च स्वायत्तता एक एजेंट को नई स्थितियों के अनुकूल होने में मदद करती है। यह निरंतर मार्गदर्शन के बिना एक लक्ष्य की ओर काम करता है। हालाँकि, यह एजेंट को प्रेडिक्ट (predict), डिबग (debug) और भरोसा करने में भी कठिन बना देता है।

स्वायत्तता मुफ्त नहीं है।

स्वायत्तता को एक स्पेक्ट्रम (spectrum) के रूप में सोचें। • एक छोर पर, सिस्टम केवल प्रतिक्रियाएँ (responses) उत्पन्न करते हैं। • दूसरे छोर पर, एजेंट न्यूनतम मानवीय सहायता के साथ चरणों की योजना बनाते हैं और कार्य करते हैं।

इस स्पेक्ट्रम में हर अगला कदम क्षमता और जटिलता को बढ़ाता है। आपका लक्ष्य शीर्ष पर पहुँचना नहीं है। आपका लक्ष्य उस स्तर पर रुकना है जिसकी आपकी समस्या को आवश्यकता है।

एक HR सहायक पर विचार करें। यह नीति (policy) के बारे में सवालों के जवाब देता है। इसे कर्मचारी रिकॉर्ड बदलने की शक्ति देने से बिना कोई मूल्य जोड़े जोखिम बढ़ जाता है।

अब एक ऑपरेशंस एजेंट (operations agent) पर विचार करें। यह उत्पादन त्रुटियों (production errors) की जांच करता है। इसे लॉग (logs) की जांच करने और सिस्टम को क्वेरी (query) करने की आवश्यकता होती है। एक कठोर वर्कफ़्लो इस एजेंट को सीमित करता है। यहाँ, स्वायत्तता समाधान में सुधार करती है।

अंतर समस्या में है, तकनीक में नहीं।

कई सफल सिस्टम बाउंडेड ऑटोनॉमी (bounded autonomy) का उपयोग करते हैं। इसका अर्थ है कि एजेंट सख्त सीमाओं के भीतर काम करता है।

  • टूल एक्सेस को प्रतिबंधित करें।
  • कार्य के दायरे को सीमित करें।
  • उच्च-प्रभाव वाले कार्यों के लिए अनुमोदन (approval) आवश्यक करें।
  • खर्च की सीमा निर्धारित करें।
  • यह परिभाषित करें कि कब रुकना है और इंसान से पूछना है।

बाधाएं (Constraints) एक एजेंट को प्रेडिक्टेबल और विश्वसनीय बनाती हैं।

स्वायत्तता बढ़ाने से पहले, ये प्रश्न पूछें:

  • क्या एक वर्कफ़्लो इसे हल कर सकता है?
  • क्या अगला कदम अज्ञात जानकारी पर निर्भर है?
  • यदि एजेंट विफल हो जाता है तो क्या होगा?
  • क्या आप जोखिम भरे कार्यों को कम जोखिम वाले तर्क (reasoning) से अलग कर सकते हैं?
  • क्या बाउंडेड ऑटोनॉमी काम करेगी?

बेहतरीन इंजीनियर स्वायत्तता को अधिकतम नहीं करते हैं। वे सटीक रूप से तय करते हैं कि यह कहाँ शुरू होती है और कहाँ समाप्त होती है। अच्छा आर्किटेक्चर वही है जो बिल्कुल वही करे जो आवश्यक है।

Source: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n

Optional learning community: https://t.me/GyaanSetuAi