AI Henüz Güvenli Kod Yazamıyor
C++'ı Bjarne Stroustrup yarattı. Yapay zeka ile kodlama konusunda çok güçlü bir görüşe sahip.
Yapay zeka araçlarının karmaşık sistem kodları yazmada başarısız olduğunu söylüyor. Yapay zekanın daha fazla hata (bug) ve güvenlik açığı oluşturduğuna inanıyor.
Endişelenmesinin nedenleri şunlar:
- Değişiklikleri takip etmek zor. İnsan kaynaklı değişiklikler tek bir yerde kalır. Yapay zeka değişiklikleri tüm projeye yayılır. Yan etkileri kolayca bulamazsınız.
- Yapay zeka eski alışkanlıkları taklit eder. LLM'ler mevcut kodlar üzerinde eğitilir. Eski hataları ve yavaş performans modellerini tekrarlarlar.
- Doğrulama tam bir karmaşa. Yapay zekanın ne yazdığını doğrulamak zordur.
Yapay zekadan nefret etmiyor. Teknik yazım konusunda yardımcı olabileceğini düşünüyor. Yine de işi kontrol etmek için bir insana ihtiyaç duyuluyor.
Stroustrup, kodun en kritik %20'lik kısmına odaklanıyor. Bu, güvenlik ve yüksek performans için kullanılan koddur. Yapay zeka bu iş için henüz hazır değil.
PVS-Studio uzmanları da aynı fikirde.
Phillip Khandeliants, sorunların geliştiricilerin yapay zeka kodunu kontrol etmeden kopyalayıp yapıştırmasıyla başladığını söylüyor. Bu durum, kötü ve güvensiz yazılımlara yol açıyor.
Oleg Lisiy farklı bir bakış açısı ekliyor. Yapay zeka artık işin bir parçası. Bir yapay zeka ajanının kodu doğrudan canlı ortama (production) aktarmasına izin vermemelisiniz. Bu, büyük şirketler için kötü bir fikir.
Ayrıca yapay zeka kullanmanın, editörünüzdeki otomatik tamamlama özelliğini kullanmaya benzediğini belirtiyor. Sadece "tab" tuşuna basıp en iyisini umamazsınız.
Amaç, yapay zekayı düşünmenin bir alternatifi olarak değil, bir araç olarak kullanmaktır.
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi