നിങ്ങളുടെ AI ഏജന്റിന് എത്രത്തോളം സ്വയംഭരണാധികാരം ഉണ്ടായിരിക്കണം?

ഏജന്റിക് AI (Agentic AI) എന്നത് കൂടുതൽ സ്വയംഭരണാധികാരത്തിനായുള്ള ഒരു മത്സരമായി ആളുകൾ കാണുന്നു.

അവർക്ക് കൂടുതൽ ടൂളുകൾ വേണം. കൂടുതൽ യുക്തിചിന്ത (reasoning) വേണം. കൂടുതൽ സ്വാതന്ത്ര്യം വേണം.

സോഫ്റ്റ്‌വെയർ എഞ്ചിനീയർമാർ ഇങ്ങനെയല്ല പ്രവർത്തിക്കുന്നത്. മൈക്രോസെർവീസുകൾ (microservices) പ്രശസ്തമായതുകൊണ്ട് മാത്രം ഞങ്ങൾ അവ നിർമ്മിക്കാറില്ല. കഴിവും സങ്കീർണ്ണതയും (complexity) തമ്മിൽ സന്തുലിതാവസ്ഥ നിലനിർത്തുന്ന സിസ്റ്റങ്ങളാണ് ഞങ്ങൾ നിർമ്മിക്കുന്നത്.

AI ഏജന്റുകൾക്കും ഇതേ സമീപനം തന്നെയാണ് വേണ്ടത്.

ഒരു ഏജന്റിന് എത്രത്തോളം സ്വയംഭരണാധികാരം ഉണ്ടാകാൻ കഴിയും എന്നതല്ല ചോദ്യം. ഒരു ഏജന്റിന് എത്രത്തോളം സ്വയംഭരണാധികാരം ഉണ്ടായിരിക്കണം എന്നതാണ് ചോദ്യം.

സ്വയംഭരണാധികാരം എന്നത് ഒരു ഡിസൈൻ തീരുമാനമാണ് (design decision). ഒരു ഏജന്റ് ഓരോ തവണ തീരുമാനമെടുക്കുമ്പോഴും, അതിന്റെ ഉത്തരവാദിത്തം നിങ്ങൾ വർദ്ധിപ്പിക്കുകയാണ് ചെയ്യുന്നത്.

ഉയർന്ന സ്വയംഭരണാധികാരം ഒരു ഏജന്റിനെ പുതിയ സാഹചര്യങ്ങളോട് പൊരുത്തപ്പെടാൻ സഹായിക്കുന്നു. നിരന്തരമായ നിർദ്ദേശങ്ങളില്ലാതെ ലക്ഷ്യങ്ങൾ കൈവരിക്കാൻ ഇത് സഹായിക്കുന്നു.

എന്നാൽ ഉയർന്ന സ്വയംഭരണാധികാരം ഒരു ഏജന്റിനെ പ്രവചിക്കാനും (predict) ഡിബഗ് (debug) ചെയ്യാനും പ്രയാസകരമാക്കുന്നു. ഇത് വിശ്വാസ്യത കുറയ്ക്കുകയും ചെയ്യുന്നു.

സ്വയംഭരണാധികാരം എന്നത് ഒരു സ്പെക്ട്രം (spectrum) ആണ്.

  • കുറഞ്ഞ സ്വയംഭരണാധികാരം: ടെക്സ്റ്റ് മാത്രം നിർമ്മിക്കുന്ന സിസ്റ്റങ്ങൾ.
  • ഇടത്തരം സ്വയംഭരണാധികാരം: പ്രവർത്തനങ്ങൾ നിർദ്ദേശിക്കുകയും ടൂളുകൾ ഉപയോഗിക്കുകയും ചെയ്യുന്ന സിസ്റ്റങ്ങൾ.
  • ഉയർന്ന സ്വയംഭരണാധികാരം: മനുഷ്യസഹായം കുറച്ച് എങ്ങനെ ഒരു ലക്ഷ്യത്തിലെത്താം എന്ന് തീരുമാനിക്കുന്ന സിസ്റ്റങ്ങൾ.

ഓരോ ഘട്ടവും കഴിവും സങ്കീർണ്ണതയും വർദ്ധിപ്പിക്കുന്നു. നിങ്ങളുടെ പ്രശ്നത്തിന് ആവശ്യമായ തലത്തിൽ നിങ്ങൾ നിർത്തണം.

ഒരു HR അസിസ്റ്റന്റിനെ ഉദാഹരണമായി എടുക്കാം. അത് പോളിസി സംബന്ധമായ ചോദ്യങ്ങൾക്ക് മറുപടി നൽകുന്നു. ജീവനക്കാരുടെ റെക്കോർഡുകൾ മാറ്റാൻ അതിന് അനുമതി നൽകുന്നത് വലിയ മൂല്യം കൂട്ടുന്നതിന് പകരം റിസ്ക് (risk) വർദ്ധിപ്പിക്കുകയേയുള്ളൂ.

ഇനി ഒരു ഓപ്പറേഷൻസ് ഏജന്റിനെ (operations agent) പരിഗണിക്കുക. അത് പ്രൊഡക്ഷൻ പ്രശ്നങ്ങൾ (production incidents) അന്വേഷിക്കുന്നു. അത് ലോഗുകൾ (logs) പരിശോധിക്കുകയും ഡോക്യുമെന്റേഷൻ തിരയുകയും വേണം. കണ്ടെത്തുന്ന കാര്യങ്ങൾക്കനുസരിച്ച് അതിന്റെ സെർച്ച് രീതി മാറ്റേണ്ടതുണ്ട്. ഇവിടെ ഒരു നിശ്ചിത വർക്ക്ഫ്ലോ (fixed workflow) പരാജയപ്പെടും. കൂടുതൽ സ്വയംഭരണാധികാരം ഈ പരിഹാരത്തെ മെച്ചപ്പെടുത്തുന്നു.

പ്രശ്നം ഏതാണോ അതിനനുസരിച്ചായിരിക്കണം സ്വയംഭരണാധികാരത്തിന്റെ അളവ്.

വിജയകരമായ പ്രൊഡക്ഷൻ സിസ്റ്റങ്ങൾ പലപ്പോഴും ബോധപൂർവ്വം നിയന്ത്രിക്കപ്പെട്ടവയാണ്. ഇതിനെ 'ബൗണ്ടഡ് ഓട്ടോണമി' (bounded autonomy) എന്ന് വിളിക്കുന്നു. സിസ്റ്റം വിശ്വസനീയമായി നിലനിർത്താൻ നിങ്ങൾ പരിധികൾ നിശ്ചയിക്കുന്നു.

പരിധികളുടെ ഉദാഹരണങ്ങൾ:

  • ടൂളുകളുടെ ഉപയോഗം പരിമിതപ്പെടുത്തുക
  • ജോലിയുടെ വ്യാപ്തി പരിമിതപ്പെടുത്തുക
  • വലിയ കാര്യങ്ങൾക്കായി മനുഷ്യന്റെ അനുമതി ആവശ്യപ്പെടുക
  • ചിലവ് പരിധികൾ നിശ്ചയിക്കുക
  • എപ്പോഴാണ് ഒരു മനുഷ്യനെ ഏൽപ്പിക്കേണ്ടതെന്ന് (escalate) നിർണ്ണയിക്കുക

ഈ നിയന്ത്രണങ്ങൾ നിങ്ങളുടെ ഏജന്റിനെ കൂടുതൽ പ്രവചിക്കാവുന്നതാക്കുന്നു.

കൂടുതൽ സ്വയംഭരണാധികാരം നൽകുന്നതിന് മുമ്പ്, ഈ ചോദ്യങ്ങൾ ചോദിക്കുക:

  • ഒരു നിശ്ചിത വർക്ക്ഫ്ലോയിലൂടെ ഇത് പരിഹരിക്കാൻ കഴിയുമോ?
  • അടുത്ത ഘട്ടം അറിയപ്പെടാത്ത വിവരങ്ങളെ ആശ്രയിച്ചാണോ ഇരിക്കുന്നത്?
  • ഏജന്റ് പരാജയപ്പെട്ടാൽ എന്ത് സംഭവിക്കും?
  • റിസ്ക് ഉള്ള പ്രവർത്തനങ്ങളെ കുറഞ്ഞ റിസ്ക് ഉള്ള യുക്തിചിന്തകളിൽ നിന്ന് വേർതിരിക്കാൻ കഴിയുമോ?

മികച്ച എഞ്ചിനീയർമാർ സ്വയംഭരണാധികാരം പരമാവധി വർദ്ധിപ്പിക്കാറില്ല. അത് എവിടെ തുടങ്ങണം, എവിടെ അവസാനിക്കണം എന്ന് അവർ കൃത്യമായി തീരുമാനിക്കുന്നു.

ആവശ്യമായത് മാത്രം ചെയ്യുക എന്നതാണ് നല്ല ആർക്കിടെക്ചറിന്റെ (architecture) ലക്ഷ്യം.

Source: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n