AI Agents Hawahitaji Kumbukumbu Zaidi. Wanahitaji Ukumbusho Uliodhibitiwa.

Watu wengi wanafikiri kuwa AI agents wanahitaji kumbukumbu zaidi ili kufanya kazi vizuri zaidi. Wanapendekeza historia zaidi ya mazungumzo. Wanapendekeza madirisha makubwa zaidi ya muktadha (context windows). Wanapendekeza hifadhi zaidi ya vector.

Lakini kumbukumbu nyingi mara nyingi huwafanya agents kuwa wasioaminika. Agent anaanza kutumia dhana zilizopitwa na wakati. Inachukulia muktadha wa zamani kama ukweli wa sasa. Inachanganya mapendeleo ya mtumiaji na ushahidi thabiti.

Tatizo si kiasi gani agent anakumbuka. Tatizo ni kuamua ni nini agent anaruhusiwa kukumbuka.

Hili ni tatizo la uhandisi wa mifumo (systems engineering), si tatizo la akili.

Upatikanaji wa taarifa (Retrieval) si usimamizi (governance). Mfumo wa upatikanaji (retrieval system) hutafuta taarifa zinazoonekana kufanana na swali. Mfumo wa ukumbusho uliodhibitiwa (governed recall system) huamua ikiwa taarifa hiyo ni salama kutumika.

Sera nzuri ya ukumbusho huuliza maswali haya:

  • Je, taarifa hii bado ni mpya?
  • Nani anaruhusiwa kuiona hii?
  • Je, ushahidi mpya unashinda data hii ya zamani?
  • Chanzo cha taarifa hii ni nini?

Si kila kumbukumbu ina mamlaka sawa. Matokeo ya kifaa (tool result) ni ukweli. Muhtasari wa modeli (model summary) ni dhana. Mapendeleo ya mtumiaji ni mwongozo.

Ukiviweka vyote hivi kwenye prompt kama ukweli sawa, agent atafeli. Mfumo lazima utofautishe kati ya ushahidi na madai. Ushahidi wa wakati wa utendaji (runtime evidence) lazima ushinde dhana za modeli wakati wote.

Kumbukumbu pia inahitaji upeo (scope) na asili (provenance). Agent hapaswi kuona kila kipande cha data katika kampuni yako. Kumbukumbu inahitaji mipaka kulingana na majukumu, kazi, na ruhusa. Pia unahitaji kujua kumbukumbu imetoka wapi. Maoni ya binadamu yana uzito mkubwa kuliko makisio ya modeli.

Acha kujaribu kuwapa agents ubongo mkubwa zaidi. Anza kujenga sheria bora za kile wanachoweza kukumbuka. Wakati wa utendaji (runtime) lazima upange muktadha kabla haujafika kwenye modeli.

Swali halisi si kiasi gani agent anaweza kukumbuka. Swali halisi ni ikiwa unaweza kuamini kile ambacho agent anakumbuka.

Chanzo: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi