Yapay Zeka Bir Siber Güvenlik Silahına Dönüştüğünde
Anthropic'ın Mythos modelleri güvenlik dünyasını değiştirdi. Sadece hataları açıklamakla kalmıyorlar; yabancı kodlardaki yeni güvenlik açıklarını buluyor ve bunları istismar ediyorlar.
Bu yetenek, saldırganlar ve savunmacılar arasındaki dengeyi değiştiriyor. Anthropic, kısıtlamasız Mythos 5 modelini küçük bir uzman grubuna özel tuttu. Halk ise Fable 5'e erişebiliyor. Bu sürüm, yüksek riskli siber güvenlik istemlerini engelleyen koruma mekanizmalarına sahip.
Tehlike gerçek. Hataları bulan bir model her iki tarafa da yardımcı olur. Bir savunmacı bunu kendi kodu üzerinde kullanır; bir saldırgan ise başkalarının kodu üzerinde kullanır.
Saldırganlar koruma mekanizmalarına uymazlar. Şu anda bile eski akıllı sözleşmelerdeki zayıflıkları taramak için yapay zekayı kullanıyorlar. Eğer değerli bir kod yayınlıyorsanız, saldırganların kusurlarınızı bulmak için yapay zeka kullandığını varsaymalısınız.
Mevcut savunma stratejisinin bir kusuru var. Koruma mekanizmaları, meşru bir denetim ile bir saldırıyı birbirinden ayırt edemez. Eğer isteminiz riskli görünüyorsa, yapay zeka size haber vermeden daha düşük kaliteli bir yanıt verebilir. Bu durum, halka açık modeli savunmacılar için kaba bir araç haline getiriyor.
Yapay zeka yüzünden daha az dikkatli olmuyorum; aksine daha sistematik oluyorum. Yaklaşımım şu şekilde:
- Kendi kodum üzerinde agresif bir şekilde yapay zeka analizi yapıyorum. Hataları bir saldırgandan önce bulmak istiyorum.
- Eski veya doğrulanmamış sözleşmeleri yüksek riskli olarak değerlendiriyorum. Otomatik araçlar önce bunları hedef alır.
- Yapay zekanın "temiz" raporuna asla güvenmiyorum. Modellerin gözden kaçırdığı şeyler olduğu için hala manuel incelemeler yapıyorum.
Yapay zeka, güvenlik çalışmalarını gereksiz kılmaz; aksine standartları yükseltir. Saldırganın kodunuz üzerinde halihazırda bir model çalıştırdığını varsaymalısınız.
Yapay zeka kullanmayı reddeden bir denetçi dezavantajlı durumdadır. Yapay zeka donanımlı bir saldırganı, yapay zeka donanımlı bir savunma ile karşılamalısınız. Araçları kendi kodunuz üzerinde kullanın, sınırlarını anlayın ve insan muhakemenizi koruyun.
Korkuyla karşılık vermeyin. Bu araçları önce kendi hatalarınızı bulmak için kullanarak karşılık verin.
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi