𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗗𝗼𝗻'𝘁 𝗡𝗲𝗲𝗱 𝗠𝗼𝗿𝗲 𝗠𝗲𝗺𝗼𝗿𝘆. 𝗧𝗵𝗲𝘆 𝗡𝗲𝗲𝗱 𝗚𝗼𝘃𝗲𝗿𝗻𝗲𝗱 𝗥𝗲𝗰𝗮𝗹𝗹.

AI ഏജന്റുകൾക്ക് മികച്ച രീതിയിൽ പ്രവർത്തിക്കാൻ കൂടുതൽ മെമ്മറി ആവശ്യമാണെന്ന് മിക്കവരും കരുതുന്നു. അവർ കൂടുതൽ ചാറ്റ് ഹിസ്റ്ററി (chat history) നിർദ്ദേശിക്കുന്നു. വലിയ കോൺടെക്സ്റ്റ് വിൻഡോകൾ (context windows) നിർദ്ദേശിക്കുന്നു. കൂടുതൽ വെക്റ്റർ സ്റ്റോറേജ് (vector storage) നിർദ്ദേശിക്കുന്നു.

എന്നാൽ കൂടുതൽ മെമ്മറി പലപ്പോഴും ഏജന്റുകളെ കുറച്ചുകൂടി അവിശ്വസനീയമാക്കുന്നു. ഏജന്റ് കാലഹരണപ്പെട്ട അനുമാനങ്ങൾ ഉപയോഗിക്കാൻ തുടങ്ങുന്നു. പഴയ കോൺടെക്സ്റ്റിനെ നിലവിലെ വസ്തുതകളായി അത് കണക്കാക്കുന്നു. ഉപയോക്താവിന്റെ താൽപ്പര്യങ്ങളെ കൃത്യമായ തെളിവുകളുമായി അത് കൂട്ടിക്കലർത്തുന്നു.

പ്രശ്നം ഒരു ഏജന്റ് എത്രത്തോളം ഓർമ്മിക്കുന്നു എന്നതല്ല. ഏജന്റിന് എന്തൊക്കെ ഓർത്തെടുക്കാൻ (recall) അനുവാദമുണ്ട് എന്ന് തീരുമാനിക്കുന്നതാണ് പ്രശ്നം.

ഇതൊരു സിസ്റ്റംസ് എൻജിനീയറിംഗ് പ്രശ്നമാണ്, ബുദ്ധിശക്തിയുടെ (intelligence) പ്രശ്നമല്ല.

റിട്രീവൽ (Retrieval) എന്നത് ഗവേണൻസ് (governance) അല്ല. ഒരു റിട്രീവൽ സിസ്റ്റം ഒരു ക്വറിയോട് സാമ്യമുള്ള വിവരങ്ങൾ കണ്ടെത്തുന്നു. ഒരു ഗവേൺഡ് റീകോൾ സിസ്റ്റം (governed recall system) ആ വിവരം ഉപയോഗിക്കുന്നത് സുരക്ഷിതമാണോ എന്ന് തീരുമാനിക്കുന്നു.

ഒരു നല്ല റീകോൾ പോളിസി ഈ ചോദ്യങ്ങൾ ചോദിക്കുന്നു:

  • ഈ വിവരം ഇപ്പോഴും പ്രസക്തമാണോ?
  • ഇത് കാണാൻ ആർക്കൊക്കെ അനുവാദമുണ്ട്?
  • പുതിയ തെളിവുകൾ ഈ പഴയ വിവരങ്ങളെ മറികടക്കുന്നുണ്ടോ?
  • ഈ വിവരത്തിന്റെ ഉറവിടം എന്താണ്?

എല്ലാ മെമ്മറിക്കും ഒരേ അധികാരമില്ല. ഒരു ടൂൾ റിസൾട്ട് (tool result) ഒരു വസ്തുതയാണ്. ഒരു മോഡൽ സമ്മറി (model summary) ഒരു അനുമാനമാണ്. ഒരു ഉപയോക്താവിന്റെ താൽപ്പര്യം ഒരു മാർഗ്ഗനിർദ്ദേശമാണ്.

ഇവയെല്ലാം തുല്യമായ വസ്തുതകളായി ഒരു പ്രോംപ്റ്റിൽ നൽകിയാൽ ഏജന്റ് പരാജയപ്പെടും. തെളിവുകളും അവകാശവാദങ്ങളും തമ്മിലുള്ള വ്യത്യാസം സിസ്റ്റം തിരിച്ചറിയണം. റൺടൈം തെളിവുകൾ (Runtime evidence) എപ്പോഴും മോഡൽ അനുമാനങ്ങളേക്കാൾ മുൻഗണന നേടണം.

മെമ്മറിക്ക് വ്യാപ്തിയും (scope) ഉറവിടവും (provenance) ആവശ്യമാണ്. നിങ്ങളുടെ കമ്പനിയിലെ എല്ലാ ഡാറ്റയും ഒരു ഏജന്റ് കാണാൻ പാടില്ല. റോൾ, ടാസ്ക്, പെർമിഷൻ എന്നിവയുടെ അടിസ്ഥാനത്തിൽ മെമ്മറിക്ക് അതിർവരമ്പുകൾ വേണം. മെമ്മറി എവിടെ നിന്ന് വന്നുവെന്നും നിങ്ങൾ അറിയണം. ഒരു മോഡലിന്റെ ഊഹം എന്നതിനേക്കാൾ കൂടുതൽ പ്രാധാന്യം ഒരു മനുഷ്യന്റെ കമന്റിനുണ്ട്.

ഏജന്റുകൾക്ക് വലിയ തലച്ചോറ് നൽകാൻ ശ്രമിക്കുന്നത് നിർത്തുക. അവർക്ക് എന്തൊക്കെ ഓർത്തെടുക്കാൻ കഴിയണം എന്നതിനായി മികച്ച നിയമങ്ങൾ നിർമ്മിച്ചു തുടങ്ങുക. മോഡലിൽ എത്തുന്നതിന് മുമ്പ് റൺടൈം കോൺടെക്സ്റ്റ് കൃത്യമായി ക്രമീകരിക്കണം (curate).

യഥാർത്ഥ ചോദ്യം ഒരു ഏജന്റിന് എത്രത്തോളം ഓർമ്മിക്കാൻ കഴിയും എന്നതല്ല. ഏജന്റ് ഓർത്തെടുക്കുന്നത് നിങ്ങൾക്ക് വിശ്വസിക്കാൻ കഴിയുമോ എന്നതാണ് യഥാർത്ഥ ചോദ്യം.

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi