Jake Williams, bir güvenlik araştırmacısı, bu hafta kurumsal ağlarda çalışan yapay zeka ajanları için açık çalışma zamanı (runtime) izinleri ve sınırları belirleme imkanı sunan CUSTODY framework'ünü tanıttı. Araç, geleneksel yazılımların aksine yapay zeka ajanlarının dinamik olarak veri çekebilmesi, servisleri çağırabilmesi ve modelleri değiştirebilmesi —tüm bunları net ve uygulanabilir bir politika olmaksızın yapabilmesi— nedeniyle önem taşıyor; bu da saldırganların halihazırda istismar etmeye başladığı bir boşluk yaratıyor.

Yapay zeka ajanlarının neden bir sınıra ihtiyacı var

Kurumsal yapay zeka yığınları artık sohbet botlarını, öneri motorlarını, otonom karar vericileri ve dahili API'lerden veya üçüncü taraf servislerden veri çeken düzinelerce arka plan ajanını içeriyor. Mevcut güvenlik paketleri çevre güvenlik duvarlarına, uç nokta korumasına ve ağ segmentasyonuna odaklanıyor ancak "bu ajan müşteri kayıtlarını okuyabilir ama finans veritabanına yazamaz" diyebilecek standart bir yöntemden yoksunlar. Bu tür çalışma zamanı kontrollerinin eksikliği, ele geçirilen ajanların veri sızdırmak veya model ağırlıklarını bozmak için kullanıldığı olaylara halihazırda yol açtı.

CUSTODY bu boşluğu nasıl dolduruyor

CUSTODY, bir yapay zeka ajanının bir ağa bağlandıktan sonra neler yapabileceğini tanımlayan kural tabanlı bir dil sunar. Politikalar şunları belirleyebilir:

  • Kaynak erişimi – ajanın hangi veritabanlarını, dosya depolarını veya API'leri sorgulayabileceği.
  • Eylem sınırları – ajanın sadece okuma mı yapabileceği, yoksa yazma, silme veya sonraki işleri tetikleme yetkisine de sahip olup olmayacağı.
  • Çalıştırma bağlamı – CPU kotaları veya konteyner izolasyonu gibi hesaplama ortamına yönelik kısıtlamalar.

Çalışma zamanında framework, ajanın çağrılarını durdurur ve bunları belirlenen politikaya göre kontrol eder; tanımlanan sınırların dışına çıkan her türlü işlemi engeller. Bu, ele geçirilmiş bir ajanın kurumsal ortamda kontrolsüzce dolaşmasını durdurur.

CUSTODY'yi mevcut yığınlara entegre etmek

Framework, mevcut güvenlik araçlarıyla birlikte çalışır. Popüler orkestrasyon platformlarına, konteyner çalışma zamanlarına ve API ağ geçitlerine bağlanabilir, ancak kesin adımlar temel alınan ajan platformuna göre değişir. Kuruluşlar yapay zeka envanterlerini çıkarmalı, her ajan sınıfı için politika dosyaları yazmalı ve tam dağıtımdan önce uygulama katmanını test etmelidir. Bu politikaları düzinelerce ajana yaymak, modeller geliştikçe kuralları güncel tutmak için özel bir operasyonel çaba gerektirecektir.

Uyarılar ve eleştiriler

Eleştirmenler, CUSTODY'nin politikaları otomatik olarak oluşturmadığını; güvenlik ekiplerinin bunları manuel olarak hazırlamak zorunda olduğunu ve bunun da yoğun emek gerektirebileceğini belirtiyor. Ayrıca, özellikle yüksek verimli çıkarım (inference) servisleri için her çağrının gerçek zamanlı olarak incelenmesi durumunda bir performans yükü riski de bulunmaktadır. Son olarak, framework'ün etkinliği geniş çaplı benimsenmeye bağlıdır; eğer bir sağlayıcının yapay zeka platformu gerekli bağlantı noktalarını (hooks) sunamazsa, CUSTODY kontrolleri atlanabilir.

Sırada ne var?

  • Sağlayıcı tepkisi – büyük yapay zeka platformu sağlayıcılarının CUSTODY uyumlu bağlantı noktaları ekleyip eklemeyeceği veya kendi çalışma zamanı politika motorlarını sunup sunmayacağı.
  • Standardizasyon – yapay zeka ajanı izinleri için endüstri çapında spesifikasyonlara yönelik herhangi bir hareket, CUSTODY'yi fiili bir standart (de-facto baseline) haline getirebilir.
  • Topluluk geri bildirimi – erken benimseyenler, gerçek dünyadaki politika karmaşıklığını ve performans etkisini ortaya çıkararak gelecekteki sürümleri şekillendirecektir.

Yapay zeka ajanlarına güvenen işletmeler, CUSTODY'yi şimdi değerlendirmeli, güvenlik yığınlarında nereye oturduğunu belirlemeli ve bir sonraki yapay zeka kaynaklı saldırı dalgası ağlarına ulaşmadan önce politika denemelerine başlamalıdır.