Die Forscher Yuxing Lu, Yicheng Chen und Shanchan Wu haben ein „Procedural Graph“-Framework veröffentlicht, das es Large-Language-Model (LLM)-Agenten ermöglicht, ihre eigenen Aufgabenplanungen während der Arbeit umzuschreiben.

Das Problem heutiger Agenten

Die meisten LLM-gesteuerten Assistenten verhalten sich wie ein Koch, der lediglich ein Rezept rezitieren kann. Das Modell speichert die Schritte im flüchtigen Speicher, wählt das nächste Werkzeug aus und hofft, dass das nächste Token korrekt landet. In der Praxis treten häufig drei Arten von Fehlern auf:

  • Goal Drift – nach einigen Interaktionen vergisst der Agent das ursprüngliche Ziel.
  • Tool-Fehlbedienung – er ruft eine API in der falschen Reihenfolge auf oder gerät in eine Endlosschleife bei demselben Aufruf.
  • Nicht gelernte Fehler – derselbe Fehler tritt in nicht zusammenhängenden Sitzungen erneut auf, da der Fehlschlag nicht dauerhaft aufgezeichnet wird.

Da die Argumentation implizit bleibt, können Entwickler nicht nachvollziehen, warum eine Aktion erfolgt ist, und Nutzer können systematische Mängel nicht korrigieren.

Prompts in einen Graphen verwandeln

Procedural Graphs ersetzen den reinen „Memory-only“-Ansatz durch eine explizite, editierbare Struktur. Das Framework definiert drei Kernelemente:

Element Rolle
Node Ein konkreter Schritt wie „Flug suchen“ oder „Zahlung verifizieren“.
Edge Der Fluss zwischen den Knoten – lineare Sequenzen, bedingte Verzweigungen (if/then) und Schleifen.
Attribute Metadaten, die einem Knoten oder einer Kante zugeordnet sind, z. B. Erfolgsrate, durchschnittliche Ausführungszeit oder Konfidenzwert.

Wenn ein LLM-Agent eine Anfrage erhält, bildet er diese zunächst auf einen bestehenden Graphen ab oder erstellt on-the-fly einen neuen. Die Ausführung folgt dann den Kanten, ruft Werkzeuge auf und speichert Ergebnisse in den Attributen. Da der Graph außerhalb des Token-Streams des Modells existiert, können Menschen ihn inspizieren, visualisieren und bearbeiten.

Selbstentwicklung in fünf Schritten

Die Neuheit liegt in der Schleife, die es dem Agenten ermöglicht, seinen eigenen Graphen zu verbessern:

  1. Aufzeichnen: Jeder Pfad, den der Agent durchläuft, wird protokolliert, einschließlich Inputs, Tool-Aufrufen und Ergebnissen.
  2. Vergleichen: Erfolgreiche Pfade werden mit fehlgeschlagenen verglichen, um den Punkt der Abweichung zu identifizieren.
  3. Diagnose: Der Fehler wird durch die Untersuchung von Knotenattributen (z. B. niedrige Erfolgsrate) und Kantenbedingungen analysiert.
  4. Vorschlagen: Das LLM erhält die Fehleranalyse und schlägt Graph-Modifikationen vor (Hinzufügen eines fehlenden Validierungsschritts, Entfernen einer redundanten Schleife, Verschärfen einer Bedingung).
  5. Validieren: Der überarbeitete Graph wird an einer Testinstanz geprüft; wenn sich die Leistung verbessert, wird die Änderung dauerhaft übernommen.

Da der Graph als „Single Source of Truth“ dient, kann der Agent Schritte hinzufügen, Sackgassen entfernen oder die Logik ohne menschliche Hilfe neu verdrahten. Selbst ein ungeschickter, von Menschen erstellter Workflow kann sich mit der Zeit selbst heilen.

Warum dieser Wandel wichtig ist

Generalisierung über das bloße Auswendiglernen hinaus

Ein statischer Prompt erfasst nur eine einzige Aufgabeninstanz. Ein Graph abstrahiert das „Wie“ für eine ganze Klasse von Aufgaben – wie Suchen und Buchen, Dateneingabe-Pipelines oder Fehlerbehebungs-Dialoge – sodass dieselbe Struktur mit unterschiedlichen Parametern funktioniert. Teams müssen das Modell nicht mehr für jede Variation neu anweisen.

Transparente Entscheidungsfindung

Der Graph sieht aus wie ein Flussdiagramm. Stakeholder können genau nachverfolgen, welcher Knoten einen Tool-Aufruf ausgelöst hat und warum ein bestimmter Zweig gewählt wurde.

Neuro-symbolische Synergie

Procedural Graphs kombinieren die Mustererkennung des Deep Learning (das Sprachverständnis des LLM) mit symbolischer Logik (der expliziten Graph-Logik). Das LLM liefert die Intuition, um Schritte zu generieren oder zu modifizieren; der Graph erzwingt die logische Konsistenz. Die Autoren beschreiben dies als die Ausstattung von LLMs mit einem „System-2“-Gehirn – eine bewusste, überprüfbare Steuerung, die das schnelle, assoziative „System-1“ der rohen Token-Vorhersage ergänzt.

Fazit

Procedural Graphs verleihen LLM-Agenten ein veränderbares, inspizierbares Rückgrat, das es ihnen ermöglicht, aus jeder Ausführung zu lernen. Indem flüchtige Prompts in dauerhafte Strukturen umgewandelt werden, verspricht dieser Ansatz KI-Assistenten, die robuster, leichter zu verstehen und anpassungsfähiger an neue Herausforderungen sind.