Bun Güvensiz AI Kodu Yayınladı
Bun yakın zamanda devasa bir Rust yeniden yazımı yayınladı. Ekip, bunun büyük bir kısmını yazmak için Claude AI kullandı. Bu yeniden yazım, kod tabanına 13.000'den fazla unsafe kod bloğu ekledi.
Sistem programlamada, unsafe kod bellek güvenliği kurallarını devre dışı bırakır. Tek bir unsafe bloğu bile bir risktir. Yapay zeka tarafından üretilen kodda on üç bin blok ise bir krizdir.
Ekip bunu aynı zamanda eşzamanlı bir çöp toplayıcı (garbage collector) olmadan yayınladı. Bu durum, çok iş parçacıklı (multithreaded) iş yüklerinde bellek yönetimini zorlaştırıyor.
Hız ihtiyacını anlıyorum. Küçük ekipler, Node.js ve Deno ile rekabet edebilmek için hızlı hareket etmeli. Ancak hız, özeni ikame etmemeli.
Bir unsafe kod bloğu, bellek erişiminin geçerli olduğuna dair bir sözdür. Eğer kodu bir yapay zeka yazıyorsa, o sözü hiçbir insan imzalamamış demektir.
Yapay zeka kodu kötü değildir. Ancak, bu ölçekte unsafe kod üretmek için yapay zeka kullanmak tehlikelidir.
Bir runtime basit bir kütüphane değildir. Tüm uygulamanızın temelidir. Bir runtime seçtiğinizde, ona güvenmeyi seçmiş olursunuz.
Bazı geliştiriciler kararlılık endişeleri nedeniyle Node.js'e geri dönüyor. Bu, deneysel bir altyapının yayınlanmasının bir sonucudur.
Her gün yapay zeka araçları kullanıyorum. Yapay zeka koduna, kıdemli olmayan (junior) bir mühendisten gelen kod gibi davranıyorum. Riskiyle orantılı bir incelemeye ihtiyacı var.
Bir JavaScript runtime'ında çok iş parçacıklı çalışmanın (multithreading) riski büyüktür. O 13.000 bloğun var olabilmesi için 13.000 geçerli nedene ihtiyacı var. 13.000 tane onay mührüne değil.
Yüksek hızlı yapay zeka üretimi, yüksek hızlı inceleme gerektirir.
Bun'ın büyük bir potansiyeli var. Ekip etkileyici bir iş çıkardı. Ancak dikkatli olmadan hırslı olmak, bir risk yaratır.
Yapay zeka kullanımını durdurmamalıyız. İnceleme düzeyinin, olası etki alanı (blast radius) ile eşleştiğinden emin olmalıyız. Yapay zeka, hata yapmanın maliyeti üzerine mantık yürütemez.
Üretim (production) uygulamanızda yapay zeka tarafından üretilmiş 13.000 unsafe bloğu çalıştırır mıydınız? Altyapı konusunda yapay zekaya güvenme sınırınız nedir?