Hinzufügen von Gedächtnis zum Agenten
Der Aufbau eines KI-Agenten erfordert mehr als nur ein Modell. Er benötigt eine Möglichkeit, sich daran zu erinnern, wer Sie sind.
In meiner Serie über den Aufbau des AWS Briefing Agent untersuche ich, wie man von zustandslosen Interaktionen zu personalisierten Erlebnissen übergeht.
Das Problem mit Standard-microVMs ist, dass sie zustandslos sind. Wenn eine Sitzung endet, wird die Umgebung zerstört. Dies verhindert Datenlecks, bedeutet aber auch, dass der Agent alles vergisst. Ohne Gedächtnis muss ein Benutzer seine Präferenzen jedes Mal wiederholen, wenn er sich anmeldet.
Ich habe dies mithilfe von AgentCore Memory und Strands Agents gelöst.
So funktioniert die Architektur:
- Kurzzeitgedächtnis: Speichert rohe Interaktionen für 90 Tage, um den Kontext während eines Chats aufrechtzuerhalten.
- Langzeitgedächtnis: Verwendet zwei spezifische Strategien, um Gespräche in dauerhaftes Wissen zu verwandeln.
- Semantische Strategie: Extrahiert faktische Daten, wie zum Beispiel, welche AWS-Services ein Benutzer in der Produktion verwendet.
- Benutzerpräferenz-Strategie: Identifiziert Stile und Interessen, wie etwa eine Vorliebe für Serverless-Tools.
Um Daten sicher zu halten, verwendet das System Namespaces. Durch die Verwendung der Variable {actorId} stelle ich sicher, dass die Daten eines Benutzers niemals in die Sitzung eines anderen Benutzers gelangen.
Ich habe außerdem AWS Cognito für eine sichere Authentifizierung integriert. Der Agent validiert JWT-Token, um die Identität zu verifizieren. Sobald die Identität bestätigt ist, extrahiert das System den eindeutigen 'sub'-Claim aus dem Token. Diese ID wird zur actor_id, die der Agent verwendet, um die korrekten Gedächtnisdatensätze abzurufen.
Die Integration ist nahtlos. Durch die Verwendung des AgentCoreMemorySessionManager macht der Agent automatisch Folgendes:
- Lädt den Gesprächsverlauf aus dem Kurzzeitgedächtnis.
- Durchsucht das Langzeitgedächtnis nach relevanten Fakten und Präferenzen.
- Fügt diesen Kontext dem Agenten-Zustand hinzu, bevor er antwortet.
Das Ergebnis ist ein Agent, der sich persönlich anfühlt. Er kennt Ihr Expertenniveau und Ihre spezifischen AWS-Interessen, ohne dass Sie sich jemals wiederholen müssen.
Quelle: https://dev.to/aws-heroes/adding-memory-to-the-agent-181k
Optionale Lern-Community: https://t.me/GyaanSetuAi