Bun Güvensiz AI Kodu Yayınladı
Bun yakın zamanda çekirdeğini Rust ile yeniden yazdı. Ayrıca deneysel çoklu iş parçacığı (multithreading) desteği eklediler. Bunlar büyük adımlar. Ancak, bu hedeflere ulaşmak için kullanılan yöntem endişe verici.
Bun ekibi, Rust ile yeniden yazım sürecinin büyük bir kısmını Claude AI'ın yazdığını kabul etti. Bu değişiklik, kod tabanına 13.000'den fazla unsafe bloğu ekledi. Ayrıca eşzamanlı bir çöp toplayıcı (garbage collector) olmadan yayınlandı.
Sistem programlamada, unsafe kod bellek güvenliğini devre dışı bırakır. Tek bir unsafe bloğu bir risktir. Bir yapay zekadan gelen on üç bin blok ise büyük bir risk teşkil eder.
Hız ihtiyacını anlıyorum. Küçük ekipler, Node.js ve Deno ile rekabet edebilmek için hızlı hareket etmelidir. Ancak dikkatsizce yapılan hız tehlikelidir.
Her unsafe bloğu, geçerli bir bellek erişimi sözüdür. Kodu bir yapay zeka yazdığında, bu sözün altına kim imza atar?
Riskler açık:
- Yapay zeka kodu, bellek yönetimi için insan muhakemesinden yoksundur.
- Yüksek hızda üretim, yüksek hızda inceleme gerektirir.
- Eşzamanlı bir çöp toplayıcının eksikliği, çoklu iş parçacıklı iş yüklerini kararsız hale getirir.
Bir çalışma zamanı (runtime) basit bir kütüphane değildir. Tüm uygulamanızın temelidir. Bir çalışma zamanını güvene dayanarak seçersiniz. Altyapı deneysel hissettirdiğinde, geliştiriciler Node.js gibi kararlı araçlara geri dönerler.
Her gün yapay zeka araçları kullanıyorum. Yapay zeka koduna, kıdemli olmayan (junior) bir mühendisten gelen koda yaklaştığım gibi yaklaşıyorum. Etkisine uygun bir incelemeye ihtiyacı vardır.
Bir çalışma zamanı içindeki çoklu iş parçacığı kullanımının etkisi muazzamdır. On üç bin unsafe bloğu, on üç bin iyi neden gerektirir. On üç bin onay mührüne değil.
Hırslı olmak iyidir. Sistem kodunda dikkatsiz olmak ise büyük bir risk faktörüdür.
Üretim uygulamanızda yapay zeka tarafından oluşturulmuş 13.000 unsafe bloğu çalıştırır mıydınız? Altyapı konusunda yapay zekaya güvenme sınırınız nedir?
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi