Ich habe einen KI-Incident-Copiloten gebaut, der Ihre Logs nicht speichert
Jeder Ingenieur macht das.
In der Produktion geht etwas kaputt. Sie schnappen sich die Logs. Sie kopieren sie in einen KI-Chat. Sie bitten um Hilfe. Die KI gibt eine gute Antwort.
Die meisten Leute denken, das sei normal. Das ist es nicht. Es ist ein massives Sicherheitsrisiko.
Produktionslogs enthalten sensible Daten. Sie enthalten Kunden-IDs, Authentifizierungsfehler, Stacktraces und API-Antworten. Manchmal enthalten sie sogar Secrets.
Die derzeitige Art des Debuggings besteht darin, private Daten in ein Chatfenster zu kopieren und auf das Beste zu hoffen. Ich wollte KI-Unterstützung, ohne das Risiko eines Datenlecks einzugehen.
Also habe ich einen KI-Incident-Copiloten gebaut. Ich habe mich an eine Regel gehalten: Die App muss nützlich sein, selbst wenn wir uns weigern, Ihre Daten zu speichern.
Die App fungiert als KI-War-Room. Sie kopieren Logs, Traces oder Fehler hinein. Sie hilft Ihnen bei:
• Änderungen zusammenfassen • Fehlerquellen finden • Rauschintensive Logs gruppieren • Stacktraces erklären • Maßnahmen zur Schadensbegrenzung vorschlagen • Postmortem-Zeitpläne entwerfen
Die meisten Entwickler bauen Apps so: Input → Backend → Datenbank → LLM → Datenbank → UI.
Das ist eine gefährliche Art zu bauen. Jetzt besitzt Ihre App ein Archiv jedes Produktionsfehlers. Sie müssen sich um Sicherheitsverletzungen, Backups und Admin-Zugriffe sorgen.
Ich wollte ein privates Notizbuch, kein SaaS-Dashboard.
Meine Design-Regel lautet: Daten verarbeiten, nicht sammeln.
Die Architektur funktioniert anders:
- Der Chatverlauf bleibt in Ihrem Browser.
- Das Backend speichert keine Prompts.
- Das Backend speichert keine Modellantworten.
- Jede Anfrage ist flüchtig.
Ich habe die Icelake AI API verwendet, weil sie zu diesem Datenschutzmodell passt. Der Server führt drei Schritte aus:
- Sensible Werte werden geschwärzt.
- Ein minimierter Prompt wird an die API gesendet.
- Die Antwort wird zurückgegeben, ohne die Anfrage zu speichern.
Die Schwärzung hilft, ist aber kein magischer Schutzschild. Sie wird nicht alles erfassen. Der eigentliche Vorteil liegt darin, die Menge der Daten zu reduzieren, die nach Abschluss der Anfrage gespeichert werden.
Die Schwärzung senkt das Risiko während des Aufrufs. Das Nicht-Speichern von Logs senkt das Risiko dauerhaft.
Die meisten KI-Apps fragen: Was können wir sammeln? Diese App fragt: Was können wir vermeiden zu sammeln?
Dieser Ansatz macht das Produkt besser. Nutzer fühlen sich sicher. Sie sind bereit, es bei echten Vorfällen einzusetzen, weil sie wissen, dass ihre Gedanken nicht in meiner Datenbank abgelegt werden.
Die nächste Welle von KI-Apps sollte nicht nur darüber konkurrieren, wie intelligent sie sind. Sie sollten über Zurückhaltung konkurrieren.
Fragen Sie sich selbst: • Was weigern Sie sich zu speichern? • Worauf Sie selbst keinen Zugriff mehr haben können? • Was verschwindet, wenn die Sitzung endet?
KI-Tools sollten nützlich sein, gerade weil sie sich nicht an alles erinnern.
Optional learning community: https://t.me/GyaanSetuAi