Kumbukumbu ya Wakala (Agent Memory): Aina 7, na 2 hazikumbuki kweli

Wakala wako hauna tatizo la kumbukumbu. Una aina saba tofauti za kumbukumbu. Timu nyingi hujenga aina mbili tu.

Jambo la kwanza unalopaswa kuelewa: modeli haikumbuki chochote. LLM ni kazi safi (pure function). Inachukua ingizo (input) na kutoa toleo (output). Haibebi hali (state) yoyote kati ya simu (calls). Kinachohisiwa kama kumbukumbu ni tabaka tu linalotuma historia upya kwa kila ombi. Unalipia token hizo kila wakati.

Jitihada nyingi za kihandisi huishia katika mifumo miwili: historia ya mazungumzo na RAG. Hizi ni mbili kati ya aina saba. Tatizo ni nini? Hazimfanyi wakala wako kuwa mwerevu zaidi kadiri muda unavyopita.

Hizi hapa ni aina saba za kumbukumbu:

• Working: Kila kitu kilicho kwenye dirisha la muktadha (context window) la sasa. • Semantic: Ukweli, mapendeleo, na maarifa ya nyanja husika. • Episodic: Kumbukumbu ya matukio yaliyopita na kile kilichofanya kazi au kilichofeli. • Procedural: Ujuzi, mifumo ya kazi (workflows), na mifumo ya zana. • Retrieval: Kuvuta maarifa kupitia utafutaji wa ufanani (similarity search). • Parametric: Maarifa yaliyojengwa ndani ya uzito wa modeli (model weights). • Prospective: Nia za baadaye na kazi zilizopangwa.

Mbili kati ya hizi si kumbukumbu halisi. RAG ni utaratibu tu wa uwasilishaji. Ni mfumo wa mabomba, si maji. Inahamisha data kutoka kwenye hifadhi kwenda kwenye kumbukumbu ya kazi (working memory). Ikiwa unatumia tu kanzi ya vector (vector database), umejenga bomba na kusahau majimaji.

Ili kujenga wakala anayejifunza kweli, unahitaji mzunguko wa uimarishaji (consolidation loop). Hii inamaanisha kubadilisha kumbukumbu ya episodic kuwa kumbukumbu ya semantic.

Mchakato unafanya kazi hivi:

  1. Wakala anapitia tukio (Episodic).
  2. Wakala anaona mfululizo uleule ukijirudia mara nyingi.
  3. Wakala anafupisha mfululizo huo kuwa sheria ya kudumu (Semantic).

Sasa, wakala hahitaji kufikiria kupitia mifano kumi na miwili. Anatumia ukweli mmoja tu.

Jinsi ya kuweka vipaumbele katika ujenzi wako:

  • Dhibiti kumbukumbu ya kazi (working memory) kama bajeti. Ndiyo gharama yako kubwa zaidi. Tumia muhtasari (summarization) na uondoaji (eviction) mapema.
  • Tenganisha hifadhi zako. Weka ukweli, matukio, na sheria katika sehemu tofauti.
  • Tumia ratiba (scheduler) kwa ajili ya kumbukumbu ya prospective. Usitumie kanzi ya vector kwa mambo yanayopaswa kutokea tarehe maalum.
  • Weka mpaka thabiti kwa kumbukumbu ya parametric. Tumia modeli kwa ajili ya kufikiri, lakini tumia hifadhi zako mwenyewe kwa data inayobadilika haraka kama viwango vya riba au sheria za bidhaa.

Wakala wengi leo ni dirisha la muktadha (context window) na kanzi ya vector (vector DB) tu. Wakala wanaoshinda ni wale wanaoweza kubadilisha makosa ya jana kuwa sheria za kesho.

Source: https://dev.to/shudiptotrafder/agent-memory-7-types-and-2-of-them-arent-memory-6oi

Optional learning community: https://t.me/GyaanSetuAi