तुमच्या AI एजंटमध्ये किती स्वायत्तता (Autonomy) असावी?

लोक अनेकदा AI एजंट्सना अधिक स्वायत्त बनवण्यावर लक्ष केंद्रित करतात. त्यांना अधिक तर्कशक्ती (reasoning) आणि अधिक नियोजन (planning) हवे असते. त्यांना अधिक स्वातंत्र्य हवे असते.

हे प्रगतीसारखे वाटते. परंतु अधिक स्वायत्तता म्हणजे नेहमीच उत्तर नसते.

सॉफ्टवेअर इंजिनिअर्स नेहमीच 'जास्त' गोष्टींसाठी बनवत नाहीत. केवळ ते लोकप्रिय आहेत म्हणून तुम्ही microservices वापरत नाही. तुम्ही क्षमता (capability) आणि गुंतागुंत (complexity) यांचा समतोल राखणारे आर्किटेक्चर निवडता.

हाच नियम AI ला देखील लागू होतो. एजंट किती स्वायत्त असू शकतो हे विचारू नका. तो किती स्वायत्त असावा हे विचारा.

स्वायत्तता हा एक डिझाइन निर्णय आहे. प्रत्येक वेळी जेव्हा तुम्ही एजंटला निर्णय घेऊ देता, तेव्हा तुम्ही त्याची जबाबदारी वाढवता. यामुळे फायदे होतात, परंतु यामुळे अभियांत्रिकी आव्हाने (engineering challenges) देखील निर्माण होतात.

उच्च स्वायत्तता एजंटला नवीन परिस्थितीशी जुळवून घेण्यास मदत करते. तो सततच्या मार्गदर्शनाशिवाय ध्येयाकडे काम करतो. तथापि, यामुळे एजंटचा अंदाज घेणे, debug करणे आणि त्यावर विश्वास ठेवणे कठीण होते.

स्वायत्तता मोफत मिळत नाही.

स्वायत्ततेचा विचार एका स्पेक्ट्रमप्रमाणे (spectrum) करा. • एका टोकाला, सिस्टम फक्त प्रतिसाद (responses) तयार करतात. • दुसऱ्या टोकाला, एजंट्स पावले (steps) नियोजित करतात आणि मानवी मदतीशिवाय काम करतात.

या स्पेक्ट्रममधील प्रत्येक टप्पा क्षमता आणि गुंतागुंत वाढवतो. तुमचे ध्येय शिखरावर पोहोचणे हे नाही. तुमचे ध्येय तुमच्या समस्येला आवश्यक असलेल्या पातळीवर थांबणे हे आहे.

एका HR असिस्टंटचा विचार करा. तो धोरणांबद्दल (policy) प्रश्नांची उत्तरे देतो. त्याला कर्मचाऱ्यांचे रेकॉर्ड बदलण्याचे अधिकार देणे, मूल्य वाढवण्याऐवजी जोखीम वाढवते.

आता एका ऑपरेशन्स एजंटचा विचार करा. तो उत्पादन त्रुटींची (production errors) तपासणी करतो. त्याला logs तपासणे आणि सिस्टम क्वेरी करणे आवश्यक असते. एक कडक workflow या एजंटला मर्यादित करतो. येथे, स्वायत्तता उपाय सुधारते.

फरक हा समस्येत आहे, तंत्रज्ञानात नाही.

अनेक यशस्वी सिस्टम्स 'बाउंडेड ऑटोनॉमी' (bounded autonomy) वापरतात. याचा अर्थ असा की एजंट कडक मर्यादांच्या आत काम करतो.

  • टूल्सचा वापर मर्यादित करा.
  • कामाची व्याप्ती (scope) मर्यादित करा.
  • उच्च-प्रभाव असलेल्या कृतींसाठी मंजुरी आवश्यक करा.
  • खर्चाच्या मर्यादा निश्चित करा.
  • कधी थांबायचे आणि मानवाला विचारायचे हे ठरवा.

मर्यादांमुळे एजंट अधिक अंदाज येण्याजोगा (predictable) आणि विश्वासार्ह (reliable) बनतो.

स्वायत्तता वाढवण्यापूर्वी, हे प्रश्न विचारा:

  • एखादा workflow हे सोडवू शकतो का?
  • पुढचे पाऊल अज्ञात माहितीवर अवलंबून आहे का?
  • जर एजंट अयशस्वी झाला तर काय होईल?
  • तुम्ही जोखमीच्या कृती आणि कमी जोखमीचे तर्क (reasoning) वेगळे करू शकता का?
  • बाउंडेड ऑटोनॉमी काम करेल का?

सर्वोत्तम इंजिनिअर्स स्वायत्तता जास्तीत जास्त वाढवत नाहीत. ते स्वायत्तता नेमकी कुठे सुरू होते आणि कुठे संपते हे ठरवतात. चांगले आर्किटेक्चर म्हणजे नेमके आवश्यक तेच करणे होय.

Source: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n

Optional learning community: https://t.me/GyaanSetuAi