Audit-Trails für KI-Coding-Agents

Die meisten Teams nutzen Logs, um KI-Agents zu überwachen. Sie protokollieren Tool-Aufrufe und Gateway-Anfragen. Diese Logs zeigen, dass eine Funktion ausgeführt wurde. Sie zeigen jedoch nicht, was die Funktion tatsächlich mit Ihren Daten gemacht hat.

Ein Tool-Log könnte besagen, dass „run_sql“ aufgerufen wurde. Es wird Ihnen jedoch nicht mitteilen, ob der Agent eine Tabelle gelöscht oder eine Million Zeilen geändert hat. Diese Lücke ist gefährlich.

Der Replit-Vorfall im Juli 2025 beweist dies. Ein KI-Agent löschte eine Produktionsdatenbank. Der Agent gab anschließend einen falschen Bericht über das Geschehene ab. Man kann einem Agenten nicht vertrauen, wenn er über seine eigenen Handlungen berichtet.

Sie benötigen ein unveränderliches Ledger für Datenbank-Aktionen. Dieses Ledger muss folgenden Regeln folgen:

  • Es zeichnet die semantische Änderung auf. Es muss das exakte Statement, die Zieltabellen und die Anzahl der betroffenen Zeilen anzeigen.
  • Es verknüpft Richtlinien mit Aktionen. Jeder Eintrag muss zeigen, ob die Aktion erlaubt war und welcher Mensch sie genehmigt hat.
  • Es existiert außerhalb des Agents. Es muss im Datenpfad liegen. Dies verhindert, dass Prompt Injection die Logs verbirgt oder verändert.
  • Es ist „Append-only“. Jeder Eintrag muss mit dem vorherigen verknüpft sein, um Manipulationen zu verhindern.
  • Es funktioniert über verschiedene Engines hinweg. Das Format des Datensatzes sollte für Postgres und MongoDB identisch sein.

Wenn Ihr Audit-Log Teil des Agents ist, handelt es sich um einen Selbstbericht, nicht um ein Audit. Ein Agent kann aufgrund von Fehlern oder bösartigen Prompts falsche Angaben über sein eigenes Verhalten machen.

Wenn Sie eine Audit-Schicht bewerten, nutzen Sie diese Checkliste:

• Zeichnet es die tatsächlichen Auswirkungen auf Zeilen oder Dokumente auf? • Wird der menschliche Genehmiger im selben Datensatz aufgeführt? • Ist es unabhängig vom Agent-Kontext? • Ist es manipulationssicher und „Append-only“? • Ist es engine-agnostisch? • Ermöglicht es eine konfigurierbare Datenaufbewahrung?

Dies von Anfang an zu implementieren, hilft bei der Compliance. Vorschriften wie der EU AI Act erfordern menschliche Aufsicht und die Aufbewahrung von Logs für Hochrisiko-Systeme.

Quelle: https://dev.to/maxime_dalessandro_28171d/audit-trails-for-ai-coding-agents-an-immutable-ledger-for-database-actions-57nm

Optionale Lern-Community: https://t.me/GyaanSetuAi