Anthropic'in istem sızıntısı hatası, bir haftalık kullanıcı verisini açığa çıkardı.
Bu ihlal neden önemli
Anthropic'in model arayüzü, geliştiricilerin bir dil modelinin yanıtını yönlendiren metinler olan “istemleri” (prompts) göndermesine olanak tanır. Yaşanan olayda, bir depolama hatası yetkisiz tarafların bu istemleri yedi gün boyunca okumasına neden oldu. Sızıntı büyük bir hack saldırısı içermiyordu; istemlerin nasıl kaydedildiği ve getirildiği konusundaki küçük bir ihmal kapıyı araladı.
Ne yanlış gitti
Kullanıcı verilerini model ağırlıklarından ayrı tutmak, maruz kalma riskini sınırlar. Denetim izleri oluşturmak, olağandışı faaliyetleri erkenden yakalar.
Yapay zeka girişimleri için acil eylemler
- İstem yönetimini güçlendirin – Gelen her istemi hassas girdi olarak değerlendirin. Veriyi depolanmış halde şifreleyin, okuma/yazma haklarını en küçük hizmet kümesiyle sınırlandırın ve yalnızca model yürütme motorunun bu veriyi geri çağırabilmesini sağlayın.
- Kullanıcı verilerini model ağırlıklarından ayırın – İstemleri, model dosyalarından fiziksel ve mantıksal olarak farklı, özel bir depoda saklayın. Bu ayrım, herhangi bir tekil ihlalin etki alanını sınırlar.
- Denetim izleri oluşturun – İstem depolama alanına yapılan her erişimi zaman damgaları, kullanıcı kimlikleri ve kaynak IP adresleri ile günlüğe kaydedin. Olağandışı okuma hacimleri veya beklenmedik hizmetlerden gelen erişimler için uyarı veren gerçek zamanlı analizler çalıştırın.
Bundan sonra neye dikkat edilmeli
Özetle: Tek bir istem yönetimi hatası, bir haftalık veri ifşasına dönüşebilir. Yapay zeka kurucuları, istem depolama konusunda diğer tüm kullanıcı verisi sistemlerinde uyguladıkları titizliği uygulamalıdır; aksi takdirde Anthropic'in maliyetli hatasını tekrarlarlar.