AI Coding Security: Prompt Injection versteckt sich in Ihren Projektdateien

Ihr KI-Coding-Assistent liest jede Datei in Ihrem Repository. Er liest Ihr README, Ihre Konfigurationsdateien und Ihre Regeln. Er nutzt diese Dateien, um zu entscheiden, wie der Code geschrieben werden soll.

Eine neue Sicherheitsbedrohung nutzt genau dieses Verhalten aus. Forscher haben eine Schwachstelle in 28 verschiedenen KI-Coding-Tools entdeckt. Der Angriff ist kein komplexer Hack. Es ist eine einfache Textdatei in Ihrem Repository.

So funktioniert der Angriff:

Sie klonen ein Open-Source-Projekt. Es sieht normal aus. Sie öffnen es in Ihrem KI-Editor und bitten um ein neues Feature. Sie sehen die versteckten Unicode-Zeichen in den Konfigurationsdateien nicht. Diese Zeichen verbergen Anweisungen vor Ihnen, sagen der KI aber etwas anderes.

Die versteckte Anweisung weist die KI an, Ihre AWS-Zugangsdaten an einen externen Server zu senden. Die KI hält dies für eine legitime Projektanweisung. Sie führt den Befehl aus. Ihre Geheimnisse sind weg.

Warum dies schwer zu stoppen ist:

  • Versteckte Zeichen: Sie sehen Standardtext, aber die KI sieht bösartige Befehle über unsichtbare Unicode-Zeichen.
  • Jede Datei ist ein Einstiegspunkt: Ein README oder ein Kommentar in einer Library kann die Payload enthalten.
  • Hohe Berechtigungen: KI-Agenten laufen oft mit Ihren Benutzerberechtigungen. Sie können Ihre SSH-Keys und API-Token lesen.
  • Tool-Aufrufe: Die KI nutzt Tool-Aufrufe, um Befehle auszuführen. Der Angriff zielt auf diese Aufrufe ab, um das Sicherheitstraining zu umgehen.

So schützen Sie Ihren Workflow:

  • Dateiinhalte bereinigen: Entfernen Sie versteckte Zeichen und gängige Injection-Muster, bevor die KI sie liest.
  • Sandboxes nutzen: Führen Sie KI-Agenten in Containern ohne Netzwerkzugriff und mit schreibgeschützten Dateisystemen aus.
  • Strenge Richtlinien festlegen: Erstellen Sie eine Whitelist für erlaubte Befehle. Erfordern Sie eine menschliche Bestätigung für jeden Befehl, der Daten verschiebt oder Dateien löscht.

Sie können vor Ihren Coding-Sessions einen schnellen Scan durchführen. Überprüfen Sie Ihre Dateien auf verdächtige Begriffe wie "ignore all previous" oder "curl" und "exfil".

KI-Coding-Tools sind produktiv, aber sie setzen voraus, dass Dateien auf Ihrer Festplatte sicher sind. Das sind sie nicht. Behandeln Sie jede Datei als unvertrauenswürdige Eingabe.

Wie gehen Sie mit den Risiken von Prompt Injection in Ihrem KI-Workflow um?

Quelle: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9