Der Prompt-Leak-Bug von Anthropic legte Nutzerdaten einer ganzen Woche offen.
Warum dieser Vorfall von Bedeutung ist
Die Modell-Schnittstelle von Anthropic ermöglicht es Entwicklern, „Prompts“ zu senden – also den Text, der die Antwort eines Sprachmodells steuert. Bei dem Vorfall ermöglichte ein Speicherfehler unbefugten Parteien, diese Prompts sieben Tage lang mitzulesen. Das Datenleck war kein massiver Hack; ein winziges Versäumnis bei der Art und Weise, wie Prompts gespeichert und abgerufen wurden, öffnete die Tür.
Was schiefgelaufen ist
Die Trennung von Nutzerdaten und Modellgewichten begrenzt das Expositionsrisiko. Das Erstellen von Audit-Trails ermöglicht es, ungewöhnliche Aktivitäten frühzeitig zu erkennen.
Sofortmaßnahmen für KI-Startups
- Absicherung der Prompt-Verarbeitung – Behandeln Sie jeden eingehenden Prompt als sensible Eingabe. Verschlüsseln Sie ihn im Ruhezustand (at rest), beschränken Sie die Lese- und Schreibrechte auf den kleinstmöglichen Dienstesatz und stellen Sie sicher, dass nur die Modell-Ausführungs-Engine darauf zugreifen kann.
- Trennung von Nutzerdaten und Modellgewichten – Speichern Sie Prompts in einem dedizierten Repository, das physisch und logisch von den Modelldateien getrennt ist. Diese Trennung begrenzt den Schadensradius (Blast Radius) eines einzelnen Sicherheitsvorfalls.
- Erstellung von Audit-Trails – Protokollieren Sie jeden Zugriff auf den Prompt-Speicher mit Zeitstempeln, Benutzer-IDs und Quell-IPs. Nutzen Sie Echtzeit-Analysen, die bei abnormalen Lesevorgängen oder Zugriffen durch unerwartete Dienste Alarme auslösen.
Worauf man als Nächstes achten sollte
Fazit: Ein einziger Fehler in der Prompt-Verarbeitung kann zu einer einwöchigen Offenlegung von Daten führen. KI-Gründer müssen der Prompt-Speicherung dieselbe Strenge entgegenbringen wie jedem anderen Nutzerdatensystem, sonst wiederholen sie den kostspieligen Fehler von Anthropic.