GraphRAG na kumbukumbu ya muktadha inayodumu sasa zinaunganishwa kwenye chatbots za AI ili mazungumzo yaendelee hata baada ya kurefresh ukurasa au kufungua tab mpya ya kivinjari. Watengenezaji wanasema mchanganyiko huu unaondoa tatizo la "tab-kill" (kusahau baada ya kufunga tab) ambalo limekuwa likiwakera watumiaji wa msaidizi wengi wa mazungumzo.

Kwa nini njia ya zamani haitoshi

Mifumo mingi ya AI inayozungumza inategemea Retrieval-Augmented Generation (RAG) ya kawaida. Mchakato huu huvuta vipande vya maandishi vinavyofanana na swali la sasa, vinawapa modeli ya lugha, na kutoa jibu. Kwa utafutaji wa ukweli mmoja—“Je, mji mkuu wa Ufaransa ni upi?””—njia hii inafanya kazi vizuri.

Lakini RAG inachukulia kila ingizo la mtumiaji kama ombi la pekee. Wakati swali linalofuata linategemea kitu kilichosemwa dakika chache zilizopita, modeli haina kumbukumbu ya muktadha huo. Matokeo yake ni chatbot inayokuomba urudie unachosema au inayotoa jibu linalopuuza maelezo ya awali. Tatizo si ukosefu wa akili; ni ukosefu wa hali ya kudumu (state).

GraphRAG: kubadilisha maandishi ya kawaida kuwa mtandao

GraphRAG inabadilisha hatua ya upatikanaji wa taarifa (retrieval stage). Badala ya orodha ya vipande vya maandishi visivyounganishwa, inajenga grafu:

  • Nodi (Nodes) zinawakilisha vitu kama watu, bidhaa, au matukio.
  • Viunganishi (Edges) vinakamata uhusiano kati yao—nani anatoa nini, mradi upi unategemea sehemu gani, n.k.

Kwa sababu grafu inahifadhi uhusiano, mfumo unaweza kufanya mantiki ya hatua nyingi (multi-hop reasoning): unaweza kufuata mnyororo wa ukweli katika nyaraka kadhaa ili kujibu swali ambalo lingeshindwa na utafutaji wa maandishi ya kawaida. Pia inaweza kutoa muhtasari wa grafu ndogo nzima, ikimpa mtumiaji muhtasari mfupi wa mada badala ya mkusanyiko wa vipande visivyounganishwa.

Kumbukumbu ya muktadha: kukumbuka mazungumzo

Kumbukumbu ya muktadha inayodumu inaongeza tabaka la muda juu ya grafu. Inagawanyika katika sehemu tatu:

  • Kumbukumbu ya muda mfupi (Short-term memory) inahifadhi mazungumzo ya sasa ya kila hatua, ili mtumiaji asihitaji kurudia hoja iliyotolewa sentensi chache zilizopita.
  • Kumbukumbu ya muda mrefu (Long-term memory) inarekodi ukweli maalum kuhusu mtumiaji katika vipindi mbalimbali—lugha inayopendelewa, matatizo yanayojirudia, au manunuzi ya awali.
  • Kumbukumbu ya kuchagua (Selective memory) huamua nini cha kuhifadhi, ikitupa maneno ya ziada na mazungumzo yasiyo na msingi ili kuepuka kujaa kwa hifadhi.

Mtumiaji anaporudi baada ya kufunga tab, hifadhi ya muda mrefu inaweza kuleta mazingira muhimu, ikimruhusu chatbot kuendelea pale kipindi cha mwisho kilipoishia.

Lini utumie kila kifaa

  • Tumia RAG ya kawaida kwa uhakiki rahisi wa ukweli ambapo gharama ya kukosa uhusiano ni ndogo.
  • Tumia GraphRAG wakati gharama ya jibu lisilo sahihi ni kubwa, au wakati jibu linahitaji kuunganisha taarifa zilizosambazwa katika nyaraka nyingi.
  • Ongeza kumbukumbu ya muktadha ikiwa programu lazima itambue watumiaji wanaorudi au idhibiti mada binafsi kwa siku au wiki kadhaa.

Kujenga tabaka hizi si kazi rahisi ya "plug-and-play". Kielezo (index) cha GraphRAG lazima kifanyiwe marekebisho wakati data chanzo inapobadilika, na hifadhi ya kumbukumbu inahitaji sera zinazozingatia umuhimu dhidi ya gharama ya uhifadhi. Kuhifadhi kila kitu kwa bidii kubwa—kuhifadhi kila neno lililosemwa—kutasababisha ucheleweshaji wa upatikanaji wa taarifa na kuifanya modeli kuzama kwenye kelele.

Mabadilishano ya faida na hasara

Kumbukumbu ya Muktadha inatatua tatizo la kusahau. Upande wa pili ni kiutendaji: kudumisha grafu hai na hifadhi ya kumbukumbu ya kuchagua kunahitaji juhudi endelevu za uhandisi.

Nini cha kufuatilia baadaye

Muhtasari: GraphRAG inatoa uti wa mgongo wa uhusiano, wakati kumbukumbu ya muktadha inayodumu inatoa kiungo cha muda. Kwa pamoja, zinaruhusu chatbots kuendeleza mada katika tab na vipindi mbalimbali, zikibadilisha uanzishaji wa upya unaokera kuwa mazungumzo ya mfululizo.