𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗡𝗲𝗲𝗱 𝗖𝗶𝗿𝗰𝘂𝗶𝘁 𝗕𝗿𝗲𝗮𝗸𝗲𝗿𝘀

ആളുകൾ AI-യുടെ reasoning, planning, memory എന്നിവയെക്കുറിച്ച് സംസാരിക്കാറുണ്ട്.

എന്നാൽ ഒരു ഏജന്റ് പരാജയപ്പെടുമ്പോൾ എന്ത് സംഭവിക്കുന്നു എന്നതിനെക്കുറിച്ച് അവർ അപൂർവ്വമായേ സംസാരിക്കാറുള്ളൂ.

ഓട്ടോണമസ് വർക്ക്ഫ്ലോകൾ (autonomous workflows) പരിശോധിക്കുന്നതിനിടെയാണ് ഞാൻ ഇത് ശ്രദ്ധിച്ചത്. ഏജന്റ് ക്രാഷ് ആകുകയോ എററുകൾ കാണിക്കുകയോ ചെയ്തില്ല.

അത് കൂടുതൽ കഠിനമായി ശ്രമിക്കുകയേ ചെയ്തുള്ളൂ.

ഒരു ടൂൾ കോൾ (tool call) പരാജയപ്പെട്ടു. ഏജന്റ് അത് വീണ്ടും പരീക്ഷിച്ചു. അതും പരാജയപ്പെട്ടു. അത് പുതിയൊരു പ്ലാൻ തയ്യാറാക്കി. കൂടുതൽ ടൂളുകൾ വിളിച്ചു. അത് ഒരു ചക്രം പോലെ തുടർന്നുകൊണ്ടേയിരുന്നു.

പുറമെ നിന്ന് നോക്കുമ്പോൾ അത് കാര്യക്ഷമമായി പ്രവർത്തിക്കുന്നതായി തോന്നി. എന്നാൽ ഉള്ളിൽ അത് ഒരു ലൂപ്പിൽ കുടുങ്ങിക്കിടക്കുകയായിരുന്നു.

ഡിസ്ട്രിബ്യൂട്ടഡ് സിസ്റ്റങ്ങളിൽ (distributed systems), എഞ്ചിനീയർമാർ സർക്യൂട്ട് ബ്രേക്കറുകൾ ഉപയോഗിക്കാറുണ്ട്. ഒരു സർവീസ് പരാജയപ്പെട്ടാൽ, നിങ്ങൾ റിക്വസ്റ്റുകൾ അയക്കുന്നത് നിർത്തുന്നു. അങ്ങനെ സിസ്റ്റത്തിന്റെ ബാക്കി ഭാഗങ്ങളെ നിങ്ങൾ സംരക്ഷിക്കുന്നു.

AI ഏജന്റുകൾക്കും ഇതേ ആവശ്യം ഉണ്ട്.

ഒരു ഓട്ടോണമസ് ഏജന്റ് API-കൾ വിളിക്കുന്നു, കോഡ് ഡെപ്ലോയ് ചെയ്യുന്നു, ടോക്കണുകൾ ചിലവാക്കുന്നു. ഗാർഡ്‌റൈലുകൾ (guardrails) ഇല്ലെങ്കിൽ, ചെറിയൊരു തെറ്റ് പോലും വലിയ ചിലവിലേക്ക് നയിച്ചേക്കാം.

ഒരു ഏജന്റ് ഒരു ആപ്ലിക്കേഷൻ ഡെപ്ലോയ് ചെയ്യുന്നത് സങ്കൽപ്പിക്കുക. ഡെപ്ലോയ്മെന്റ് പരാജയപ്പെടുന്നു. ഏജന്റ് അത് വീണ്ടും പരീക്ഷിക്കുന്നു. അത് വീണ്ടും പരാജയപ്പെടുന്നു. അത് ഒരു സെറ്റിംഗ് മാറ്റി വീണ്ടും ശ്രമിക്കുന്നു. ഓരോ പ്രവൃത്തിയും പിഴവിനെ കൂടുതൽ വഷളാക്കുന്നു.

മോഡലല്ല ഇവിടെ പ്രശ്നം. അതിരുകളില്ലാത്ത ബുദ്ധിശക്തി പ്രവചനാതീതമാണ്.

ഒരു സർക്യൂട്ട് ബ്രേക്കർ ആ അതിരുകൾ സൃഷ്ടിക്കുന്നു. അതിന് ഇവ ചെയ്യാൻ കഴിയും:

  • പരാജയപ്പെട്ട ശ്രമങ്ങൾ ഒരു പരിധി കഴിഞ്ഞാൽ പ്രവർത്തനം നിർത്തുക.
  • ചിലവ് ഒരു പരിധിയിൽ എത്തുമ്പോൾ വർക്ക്ഫ്ലോ നിർത്തിവെക്കുക.
  • പ്രൊഡക്ഷനിൽ മാറ്റങ്ങൾ വരുത്തുന്നതിന് മുമ്പ് മനുഷ്യന്റെ അനുമതി തേടുക.
  • നിങ്ങൾ പരിശോധിക്കുന്നത് വരെ അപകടകരമായ പ്രവർത്തനങ്ങൾ തടയുക.

സർക്യൂട്ട് ബ്രേക്കറുകൾ ഓട്ടോണമിയെ കുറയ്ക്കുന്നില്ല. അവ വിശ്വാസം വളർത്തുന്നു.

ഏജന്റുകൾ എങ്ങനെ പ്രവർത്തിക്കണം എന്ന് പഠിപ്പിക്കാൻ നമ്മൾ സമയം ചെലവഴിക്കുന്നു. എന്നാൽ എപ്പോൾ നിർത്തണം എന്ന് പഠിപ്പിക്കാനും നമ്മൾ സമയം ചെലവഴിക്കേണ്ടതുണ്ട്.

പ്രൊഡക്ഷനിൽ, അടുത്തതായി എന്ത് ചെയ്യണം എന്ന് അറിയുന്നതിനേക്കാൾ എപ്പോൾ നിർത്തണം എന്ന് അറിയുന്നതിനാണ് പ്രാധാന്യം.

Source: https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj

Optional learning community: https://t.me/GyaanSetuAi