AI Kodlama Ajanları Yeni Saldırı Yüzeyi

Bir yapay zeka ajanına hareket etmesi için izin veriyorsunuz. Bir depoyu klonluyor. Ayarları yapılandırıyor. Kodu çalıştırıyor. Az önce devasa bir güvenlik açığı oluşturdunuz.

Araştırmacılar güvenliği atlatmanın bir yolunu buldu. Bir GitHub deposu, tarayıcılar ve insanlar için temiz görünebilir. Bir yapay zeka ajanı kontrolünden de geçebilir. Yine de, kötü amaçlı bir payload taşır. Bu payload, normal bir kurulum süreci sırasında çalışır.

Saldırı bir insanı kandırmıyor. Ajanın işini yapmasına dayanıyor. Ajan kodu klonluyor ve otomatik olarak çalıştırıyor. Ajanın verimliliği, zayıf noktasıdır.

Tedarik zinciri saldırıları yeni değil. Typosquatting ve kötü amaçlı betikleri biliyoruz. Ancak yapay zeka ajanları ölçeği değiştiriyor. Bir ajan, yüksek izinlerle otonom olarak çalışır.

Eski saldırılar bir insanın hata yapmasına ihtiyaç duyuyordu. Yeni saldırılar ise sadece bir ajanın kontrolünden geçmeye ihtiyaç duyuyor. Ajanlar, projenin çalışmasını sağlamaya odaklanır. Kodun güvenli olup olmadığını doğrulamaya odaklanmazlar.

Bu konu yapay zeka halüsinasyonları veya prompt injection ile ilgili değil. Yapay zeka bozuk değil. Tam olarak tasarlandığı gibi çalışıyor.

Asıl sorun güven. Otonom ajanların pipeline'larda ve geliştirici ortamlarında kod çalıştırmasına izin veriyoruz. Genellikle uygun sandboxing veya izin sınırlandırmalarını atlıyoruz. Ajanın eylemlerini kontrol etmeden onlara güveniyoruz.

Eğer yapay zeka kodlama ajanlarını kullanıyorsanız, davranışlarını kontrol edin:

  • Sormadan kurulum betikleri çalıştırıyorlar mı?
  • Kurulum kancalarını (setup hooks) otomatik olarak yürütüyorlar mı?
  • Makinenizde hangi izinlere sahipler?

Güvenlik alanında çalışıyorsanız, ajan tabanlı (agentic) araçlara dikkat edin. Geliştiriciler bunları genellikle resmi onay almadan kullanırlar. Kod klonlayan ve çalıştıran bir ajan, yetki yükseltme (privilege escalation) için bir araçtır.

Otonom araçları, güvenlik çerçeveleri oluşturmaktan daha hızlı konuşlandırıyoruz. Yetenek, güvenliğin önünde koşuyor. Bu araçlar otonom olduğu için, bu boşluğun sonuçları ağırdır.

Harici kod klonlayan ve çalıştıran her pipeline'ı yüksek riskli olarak değerlendirin. Bir yapay zeka ajanının "çalıştır" düğmesine basması riski değiştirmez. Sadece hataları yakalayan o insani duraksamayı ortadan kaldırır.

Bir ajanın çalıştırdığı şeyin güvenliğinden kim sorumludur? Geliştirici mi, ajan oluşturucusu mu yoksa barındırma platformu mu? Henüz kimse buna cevap vermiyor.

Kaynak: https://dev.to/coridev/ai-coding-agents-are-the-new-attack-surface-nobodys-ready-for-1jf1

İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi