𝗕𝘂𝗻 𝗠𝗲𝗿𝗶𝗹𝗶𝘀 𝗞𝗼𝗱𝗲 𝗔𝗜 𝘆𝗮𝗻𝗴 𝗧𝗶𝗱𝗮𝗸 𝗔𝗺𝗮𝗻

Bun baru-baru ini menulis ulang intinya dalam Rust. Mereka juga menambahkan multithreading eksperimental. Ini adalah langkah besar. Namun, metode yang digunakan untuk mencapai tujuan ini cukup mengkhawatirkan.

Tim Bun mengakui bahwa Claude AI menulis sebagian besar penulisan ulang Rust tersebut. Perubahan ini menambahkan lebih dari 13.000 blok unsafe ke dalam basis kode. Ia juga dirilis tanpa garbage collector konkuren.

Dalam pemrograman sistem, kode unsafe mengabaikan keamanan memori. Satu blok unsafe adalah sebuah risiko. Tiga belas ribu blok dari AI adalah sebuah liabilitas.

Saya memahami kebutuhan akan kecepatan. Tim kecil harus bergerak cepat untuk bersaing dengan Node.js dan Deno. Namun, kecepatan tanpa kehati-hatian itu berbahaya.

Setiap blok unsafe adalah janji akan akses memori yang valid. Ketika AI yang menulis kodenya, siapa yang menandatangani janji tersebut?

Risikonya jelas:

  • Kode AI kurang memiliki penalaran manusia untuk manajemen memori.
  • Generasi berkecepatan tinggi memerlukan peninjauan berkecepatan tinggi.
  • Ketiadaan garbage collector konkuren membuat beban kerja multithreaded menjadi tidak stabil.

Sebuah runtime bukanlah sekadar pustaka biasa. Ia adalah fondasi dari seluruh aplikasi Anda. Anda memilih runtime berdasarkan kepercayaan. Ketika infrastruktur terasa eksperimental, pengembang akan kembali ke alat yang stabil seperti Node.js.

Saya menggunakan alat AI setiap hari. Saya memperlakukan kode AI dengan cara yang sama seperti saya memperlakukan kode dari seorang insinyur junior. Kode tersebut membutuhkan peninjauan yang sebanding dengan dampaknya.

Dampak dari multithreading di dalam sebuah runtime sangatlah masif. Tiga belas ribu blok unsafe membutuhkan tiga belas ribu alasan yang kuat. Mereka tidak membutuhkan tiga belas ribu persetujuan formalitas.

Menjadi ambisius itu baik. Menjadi ceroboh dengan kode sistem adalah sebuah liabilitas.

Apakah Anda akan menjalankan 13.000 blok unsafe hasil buatan AI di aplikasi produksi Anda? Apa batasan Anda dalam mempercayai AI untuk menangani infrastruktur?

Sumber: https://dev.to/adioof/bun-shipped-a-million-lines-of-ai-generated-unsafe-code-thats-not-bold-its-reckless-h3g

Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi