നിങ്ങളുടെ AI ഏജന്റിന് എത്രത്തോളം സ്വയംഭരണം (Autonomy) ഉണ്ടായിരിക്കണം?

ആളുകൾ പലപ്പോഴും AI ഏജന്റുകളെ കൂടുതൽ സ്വയംഭരണാധികാരമുള്ളവരാക്കുന്നതിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്. അവർ കൂടുതൽ യുക്തിചിന്തയും (reasoning) കൂടുതൽ പ്ലാനിംഗും ആഗ്രഹിക്കുന്നു. അവർ കൂടുതൽ സ്വാതന്ത്ര്യം ആഗ്രഹിക്കുന്നു.

ഇത് പുരോഗതിയായി തോന്നാം. എന്നാൽ കൂടുതൽ സ്വയംഭരണം എല്ലായ്പ്പോഴും പരിഹാരമാകണമെന്നില്ല.

സോഫ്റ്റ്‌വെയർ എഞ്ചിനീയർമാർ എപ്പോഴും കൂടുതൽ കാര്യങ്ങൾക്കായിട്ടല്ല നിർമ്മിക്കുന്നത്. മൈക്രോസർവീസുകൾ (microservices) പ്രചാരത്തിലായതുകൊണ്ട് മാത്രം നിങ്ങൾ അവ ഉപയോഗിക്കുന്നില്ല. കഴിവും സങ്കീർണ്ണതയും (complexity) തമ്മിൽ സന്തുലിതാവസ്ഥ നിലനിർത്തുന്ന ഒരു ആർക്കിടെക്ചർ ആണ് നിങ്ങൾ തിരഞ്ഞെടുക്കുന്നത്.

ഇതേ നിയമം AI-ക്കും ബാധകമാണ്. ഒരു ഏജന്റിന് എത്രത്തോളം സ്വയംഭരണം ഉണ്ടായിരിക്കാൻ കഴിയും എന്ന് ചോദിക്കരുത്. അത് എത്രത്തോളം സ്വയംഭരണം ഉണ്ടായിരിക്കണം എന്നാണ് ചോദിക്കേണ്ടത്.

സ്വയംഭരണം എന്നത് ഒരു ഡിസൈൻ തീരുമാനമാണ്. ഓരോ തവണ നിങ്ങൾ ഒരു ഏജന്റിനെ ഒരു തീരുമാനം എടുക്കാൻ അനുവദിക്കുമ്പോഴും, അതിന്റെ ഉത്തരവാദിത്തം നിങ്ങൾ വർദ്ധിപ്പിക്കുകയാണ് ചെയ്യുന്നത്. ഇത് ഗുണങ്ങൾ നൽകുന്നുണ്ടെങ്കിലും, ഒപ്പം എഞ്ചിനീയറിംഗ് വെല്ലുവിളികളും കൊണ്ടുവരുന്നു.

ഉയർന്ന സ്വയംഭരണം ഒരു ഏജന്റിനെ പുതിയ സാഹചര്യങ്ങളുമായി പൊരുത്തപ്പെടാൻ സഹായിക്കുന്നു. നിരന്തരമായ മാർഗനിർദ്ദേശമില്ലാതെ തന്നെ അത് ഒരു ലക്ഷ്യത്തിനായി പ്രവർത്തിക്കുന്നു. എന്നിരുന്നാലും, ഇത് ഏജന്റിനെ പ്രവചിക്കാനും (predict), ഡിബഗ് (debug) ചെയ്യാനും, വിശ്വസിക്കാനും പ്രയാസകരമാക്കുന്നു.

സ്വയംഭരണം സൗജന്യമല്ല.

സ്വയംഭരണത്തെ ഒരു സ്പെക്ട്രം (spectrum) ആയി കാണുക. • ഒരു അറ്റത്ത്, സിസ്റ്റങ്ങൾ പ്രതികരണങ്ങൾ (responses) മാത്രം നൽകുന്നു. • മറുഭാഗത്ത്, ഏജന്റുകൾ ഘട്ടങ്ങൾ പ്ലാൻ ചെയ്യുകയും കുറഞ്ഞ മനുഷ്യസഹായത്തോടെ പ്രവർത്തിക്കുകയും ചെയ്യുന്നു.

ഈ സ്പെക്ട്രത്തിലെ ഓരോ ചുവടുവെപ്പും കഴിവും സങ്കീർണ്ണതയും വർദ്ധിപ്പിക്കുന്നു. ഏറ്റവും മുകളിൽ എത്തുക എന്നതല്ല നിങ്ങളുടെ ലക്ഷ്യം. നിങ്ങളുടെ പ്രശ്നത്തിന് ആവശ്യമായ തലത്തിൽ നിർത്തുക എന്നതാണ് നിങ്ങളുടെ ലക്ഷ്യം.

ഒരു HR അസിസ്റ്റന്റിനെ പരിഗണിക്കുക. അത് പോളിസികളെക്കുറിച്ചുള്ള ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകുന്നു. ജീവനക്കാരുടെ റെക്കോർഡുകൾ മാറ്റാനുള്ള അധികാരം നൽകുന്നത് മൂല്യം വർദ്ധിപ്പിക്കുന്നതിന് പകരം റിസ്ക് (risk) മാത്രമേ കൂട്ടുകയുള്ളൂ.

ഇനി ഒരു ഓപ്പറേഷൻസ് ഏജന്റിനെ പരിഗണിക്കുക. അത് പ്രൊഡക്ഷൻ പിശകുകൾ (production errors) അന്വേഷിക്കുന്നു. അതിന് ലോഗുകൾ (logs) പരിശോധിക്കേണ്ടതും സിസ്റ്റങ്ങളിൽ ക്വറി (query) ചെയ്യേണ്ടതുമുണ്ട്. ഒരു കർശനമായ വർക്ക്ഫ്ലോ (rigid workflow) ഈ ഏജന്റിനെ പരിമിതപ്പെടുത്തുന്നു. ഇവിടെ, സ്വയംഭരണം പരിഹാരത്തെ മെച്ചപ്പെടുത്തുന്നു.

വ്യത്യാസം പ്രശ്നത്തിലാണ്, സാങ്കേതികവിദ്യയിലല്ല.

പല വിജയകരമായ സിസ്റ്റങ്ങളും ബൗണ്ടഡ് ഓട്ടോണമി (bounded autonomy) ഉപയോഗിക്കുന്നു. അതായത്, ഏജന്റ് കർശനമായ പരിധിക്കുള്ളിൽ നിന്നുകൊണ്ട് പ്രവർത്തിക്കുന്നു.

• ടൂൾ ആക്സസ് പരിമിതപ്പെടുത്തുക.
• ടാസ്കിന്റെ വ്യാപ്തി പരിമിതപ്പെടുത്തുക.
• വലിയ സ്വാധീനമുള്ള പ്രവർത്തനങ്ങൾക്ക് അനുമതി ആവശ്യപ്പെടുക.
• ചിലവ് പരിധികൾ നിശ്ചയിക്കുക.
• എപ്പോൾ നിർത്തണമെന്നും ഒരു മനുഷ്യനോട് ചോദിക്കണമെന്നും നിർവചിക്കുക.

നിയന്ത്രണങ്ങൾ ഒരു ഏജന്റിനെ പ്രവചിക്കാവുന്നതും വിശ്വസനീയവുമാക്കുന്നു.

സ്വയംഭരണം വർദ്ധിപ്പിക്കുന്നതിന് മുമ്പ്, ഈ ചോദ്യങ്ങൾ ചോദിക്കുക:

• ഒരു വർക്ക്ഫ്ലോയ്ക്ക് ഇത് പരിഹരിക്കാൻ കഴിയുമോ?
• അടുത്ത ഘട്ടം അറിയപ്പെടാത്ത വിവരങ്ങളെ ആശ്രയിച്ചാണോ ഇരിക്കുന്നത്?
• ഏജന്റ് പരാജയപ്പെട്ടാൽ എന്ത് സംഭവിക്കും?
• റിസ്ക് കുറഞ്ഞ യുക്തിചിന്തയിൽ നിന്ന് റിസ്ക് കൂടിയ പ്രവർത്തനങ്ങളെ വേർതിരിക്കാൻ കഴിയുമോ?
• ബൗണ്ടഡ് ഓട്ടോണമി ഫലപ്രദമാകുമോ?

മികച്ച എഞ്ചിനീയർമാർ സ്വയംഭരണം പരമാവധി വർദ്ധിപ്പിക്കാറില്ല. അത് എവിടെ തുടങ്ങണമെന്നും എവിടെ അവസാനിക്കണമെന്നും അവർ കൃത്യമായി തീരുമാനിക്കുന്നു. ആവശ്യമായ കാര്യങ്ങൾ മാത്രം കൃത്യമായി ചെയ്യുക എന്നതാണ് നല്ല ആർക്കിടെക്ചർ.

Source: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n

Optional learning community: https://t.me/GyaanSetuAi