GraphRAG en persistent contextueel geheugen worden nu in AI-chatbots verweven, zodat het gesprek blijft bestaan na een paginavernieuwing of een nieuw browsertabblad. Ontwikkelaars zeggen dat deze combinatie het "tab-kill"-vergeten elimineert dat gebruikers van de meeste conversationele assistenten frustreert.

Waarom de oude aanpak tekortschiet

De meeste chatgebaseerde AI-systemen vertrouwen op standaard Retrieval-Augmented Generation (RAG). De pipeline haalt tekstfragmenten op die lijken op de huidige vraag, voert deze aan een taalmodel en geeft een antwoord terug. Voor een zoekopdracht naar een enkel feit — "Wat is de hoofdstad van Frankrijk?" — werkt de methode goed.

Maar RAG behandelt elke gebruikersinvoer als een geïsoleerd verzoek. Wanneer een vervolgvraag afhankelijk is van iets dat minuten eerder is gezegd, heeft het model geen geheugen van die context. Het resultaat is een chatbot die je vraagt jezelf te herhalen of een antwoord geeft dat eerdere details negeert. Het probleem is niet een gebrek aan intelligentie; het is een gebrek aan state.

GraphRAG: platte tekst omzetten in een netwerk

GraphRAG hervormt de retrieval-fase. In plaats van een lijst met ongerelateerde tekstblokken, bouwt het een graaf:

  • Nodes vertegenwoordigen entiteiten zoals mensen, producten of gebeurtenissen.
  • Edges leggen de relaties tussen hen vast — wie levert wat, welk project afhankelijk is van welk onderdeel, enz.

Omdat de graaf verbindingen codeert, kan het systeem multi-hop redeneren uitvoeren: het kan een keten van feiten volgen over verschillende documenten om een vraag te beantwoorden die een platte tekstzoekopdracht zou laten falen. Het kan ook samenvattingen genereren van volledige subgrafen, waardoor gebruikers een beknopt overzicht van een onderwerp krijgen in plaats van een verzameling losse fragmenten.

Contextueel geheugen: het gesprek onthouden

Persistent contextueel geheugen voegt een temporele laag toe aan de graaf. Het wordt onderverdeeld in drie delen:

  • Kortetermijngeheugen houdt de huidige dialoog per beurt vast, zodat de gebruiker een punt dat enkele zinnen geleden is gemaakt, niet opnieuw hoeft te formuleren.
  • Langetermijngeheugen legt selectieve feiten over de gebruiker vast over verschillende sessies heen — de voorkeurstaal, terugkerende problemen of eerdere aankopen.
  • Selectief geheugen bepaalt wat behouden moet blijven en gooit stopwoorden en irrelevante praat weg om te voorkomen dat de opslag te groot wordt.

Wanneer een gebruiker terugkeert na het sluiten van het tabblad, kan de langetermijnopslag de relevante achtergrond naar boven halen, zodat de chatbot kan verdergaan waar de vorige sessie werd onderbroken.

Wanneer je welk hulpmiddel gebruikt

  • Gebruik standaard RAG voor eenvoudige feitenchecks waarbij de kosten van een gemiste verbinding laag zijn.
  • Zet GraphRAG in wanneer de kosten van een fout antwoord hoog zijn, of wanneer het antwoord informatie vereist die verspreid is over meerdere documenten.
  • Voeg contextueel geheugen toe als de applicatie terugkerende gebruikers moet herkennen of een persoonlijke draad over dagen of weken moet vasthouden.

Het bouwen van deze lagen is geen plug-and-play-oefening. Een GraphRAG-index moet worden bijgewerkt wanneer brongegevens veranderen, en de geheugenopslag heeft beleid nodig dat relevantie afweegt tegen opslagkosten. Te enthousiast bewaren — het opslaan van elk gesproken woord — vertraagt de retrieval snel en overspoelt het model met ruis.

De afweging

Contextueel geheugen lost het probleem van vergeten op. Het nadeel is operationeel: het onderhouden van een live graaf en een selectieve geheugencache vereist voortdurende engineeringinspanningen.

Waar je op moet letten

Kernpunt: GraphRAG levert de relationele ruggengraat, terwijl persistent contextueel geheugen de temporele lijm levert. Samen zorgen ze ervoor dat chatbots de draad vasthouden over tabbladen en sessies heen, waardoor een frustrerende reset verandert in een naadloos gesprek.