Acha Kumiminia Kumbukumbu ya Agent Kwenye Prompt

Waendelezaji wengi hujenga mifumo ya agent (agent loops) kwa kuongeza kila kitu kwenye prompt inayofuata.

Unaongeza uchunguzi wa awali, wito wa zana (tool calls), na nyayo za mantiki (reasoning traces). Unaendelea kuongeza data hadi prompt inakuwa kama kabati la takataka. Modeli inaona mengi zaidi, lakini unapoteza udhibiti. Huwezi tena kujua ni kipande gani cha kumbukumbu kilichosababisha uamuzi fulani.

Makala mpya inayoitwa AgenticSTS inapendekeza njia tofauti. Inachukulia kumbukumbu kama kiolesura (interface) badala ya mashindano ya kutafuta dirisha kubwa zaidi la muktadha (context window).

Makala hiyo inatumia mchezo wa Slay the Spire 2 kama jukwaa la majaribio. Mazingira haya yanahitaji mamia ya maamuzi ya kimkakati. Sio roboti ya mazungumzo (chat bot) rahisi tu.

Wazo kuu ni hili: Kumbukumbu ni mkataba kuhusu kile ambacho uamuzi wa baadaye unaruhusiwa kukiona.

Badala ya nakala ghafi (raw transcripts), waandishi huunda prompt mpya kwa kutumia tabaka tano mahususi:

• Maelekezo ya itifaki yaliyofungwa
• Hali ya sasa na mifumo ya vitendo (action schemas)
• Sheria za mchezo zilizopatikana
• Muhtasari kutoka michezo iliyopita
• Ujuzi wa kimkakati unaochochewa (triggered strategic skills)

Muundo huu unabadilisha kila kitu. Unaweza kukagua, kugandisha, au kuzima kila tabaka. Unageuza kumbukumbu kutoka kuwa rundo la data na kuwa ushahidi ulioteuliwa.

Mapungufu mengi ya agent wakati wa matumizi (production) si mapungufu ya modeli. Ni mapungufu ya muktadha (context). Agent huchanganya hali ya zamani na hali mpya au huendelea kubeba tafakari zilizopitwa na wakati. Ikiwa sera yako pekee ni kuongeza maandishi zaidi, kutatua hitilafu (debugging) kunahisi kama uchimbaji wa kale (archaeology).

Kiolesura cha kumbukumbu kilichopangwa (typed memory interface) kinakupa kitu cha kulinganisha.

Kwa agent zinazoendelea kwa muda mrefu, dirisha kubwa la muktadha ni mtego. Inakuwa mchanganyiko wa ukweli, ukweli uliopitwa na wakati, na majaribio yaliyofeli. Kadiri dirisha linavyokuwa kubwa, ndivyo inavyokuwa rahisi kuchanganya mabaki (sediment) na kumbukumbu.

Ili kujenga agent bora zaidi, fuata mifumo hii:

• Tenganisha maelekezo thabiti na hali ya sasa
• Weka sheria kwenye tabaka la upatikanaji (retrieval layer)
• Hifadhi uzoefu kama rekodi wazi, si mabaki ya mazungumzo
• Geuza marekebisho ya mara kwa mara kuwa ujuzi unaochochewa
• Fanya kila tabaka la kumbukumbu liweze kuondolewa kwa ajili ya majaribio

Ikiwa huwezi kuzima tabaka la kumbukumbu, hujui ikiwa linasaidia kweli. Unajua tu kwamba rundo zima hufanya kazi wakati fulani.

Acha kuchukulia kumbukumbu ya agent kama tabaka la hisia tu (vibes layer). Elekea kwenye mfumo ambapo unajua sawia kile kinachoingia kwenye uamuzi unaofuata, kilipotoka, na jinsi ya kukizima.

Ikiwa agent yako haiwezi kueleza kile kilichoruhusiwa kukumbuka, haina kumbukumbu. Ina prompt tu yenye ghala la chini (basement).

Chanzo: https://dev.to/komo/stop-dumping-agent-memory-into-the-prompt-58ka

Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi