KI nutzen, ohne Geheimnisse preiszugeben

Du erhältst eine Fehlermeldung. Du kopierst den Stacktrace. Du bittest die KI, ihn zu beheben. Du vergisst, dass deine DATABASE_URL und dein Passwort in diesem Text enthalten sind. Die KI antwortet in vier Sekunden. Jetzt befindet sich dein Geheimnis in einem Request-Log oder einem Trainingsdatensatz. Du kannst es nicht mehr löschen.

Geheimnisse in eine KI zu kopieren, ist so, als würde man sie auf einer öffentlichen Website posten. Du kannst sie nicht mehr zurücknehmen.

Ich nutze KI jeden Tag, um Code zu veröffentlichen. Ich vermeide sie nicht. Ich nutze sie mit einem Bedrohungsmodell.

Die meisten Menschen denken, ein Prompt sei ein privater Chat. Das ist er nicht. Es ist eine ausgehende Anfrage.

  • Kostenlose Versionen nutzen deine Daten oft, um Modelle zu trainieren.
  • Bezahlte Versionen versprechen in der Regel, nicht mit deinen Daten zu trainieren.
  • Selbst bezahlte Versionen speichern Logs zur Missbrauchserkennung und für menschliche Überprüfungen.

Daten gelangen auf drei Arten nach außen:

  • Was du hineinkopierst: Code-Snippets, Konfigurationen oder Traces.
  • Was Tools automatisch anhängen: offene Dateien, Repository-Kontext oder Terminal-Ausgaben.
  • Was das Modell zurücksendet: gespiegelte Geheimnisse in einer PR-Beschreibung oder einem Log.

Der KI-Anbieter ist ein vertrauenswürdiger Dritter. Du kannst seine internen Pipelines nicht prüfen. Behandle das Prompt-Feld wie einen nicht vertrauenswürdigen Netzwerfaufruf.

Hör auf, Folgendes zu senden:

  • Live-API-Keys oder Token.
  • Inhalte von .env-Dateien.
  • Private Keys oder Zertifikate.
  • Echte Kundennamen, E-Mails oder Zahlungsdaten.
  • Proprietäre Logik, die du nicht als Open Source veröffentlichen würdest.

Verwende stattdessen Platzhalter. Nutze [API_KEY] oder [DB_PASSWORD]. Die KI arbeitet mit Maskierungen genauso gut.

Gewöhne dir diese drei Dinge an:

  • Nutze eine AI-Ignore-Datei. Halte .env- und Secret-Ordner aus dem Kontext des Tools heraus.
  • Scanne, bevor du sendest. Nutze einen Secret-Detector für deinen Text, bevor du ihn hineinkopierst.
  • Halte Geheimnisse verschlüsselt. Wenn Geheimnisse zur Laufzeit nur im Arbeitsspeicher existieren, kannst du sie nicht hineinkopieren.

Eine Zusammenfassung deiner Optionen:

  • Kostenlos/Consumer: Nutze sie für öffentliche Dokumentationen oder kurzlebige Snippets.
  • Bezahlt Pro/Team: Nutze sie für die meiste Engineering-Arbeit. Sie bietet vertraglichen Schutz.
  • Lokal/Self-hosted: Nutze sie für regulierte Daten, die auf deinem Rechner bleiben müssen.

Eine Garantie gegen das Training ist ein Vertrag. Sie ist kein technischer Schutzschild. Sie senkt das Risiko, aber sie beseitigt es nicht.

Befolge diese Schritte, bevor die KI deinen Code berührt:

  • Füge eine Ignore-Datei für deine KI-Tools hinzu.
  • Scanne alles, was du hineinkopierst.
  • Maskiere alle Anmeldedaten mit Platzhaltern.
  • Nutze bezahlte Versionen für proprietäre Arbeit.
  • Nutze ein KMS, um Geheimnisse aus dem Klartext fernzuhalten.
  • Überprüfe die KI-Ausgabe, bevor sie in deine Logs oder Commits gelangt.

Die Antwort in vier Sekunden ist immer noch schnell. Sie kostet dich nur nicht mehr deine Sicherheit.

Quelle: https://dev.to/faizahmedfarooqui/using-ai-without-leaking-your-secrets-a-threat-model-for-ai-assisted-development-2l57

Optionale Lern-Community: https://t.me/GyaanSetuAi