𝗕𝘂𝗻 𝗠𝗲𝗹𝗮𝗻𝗰𝗮𝗿𝗸𝗮𝗻 𝗞𝗼𝗱 𝗔𝗜 𝗬𝗮𝗻𝗴 𝗧𝗶𝗱𝗮𝗸 𝗦𝗲𝗹𝗮𝗺𝗮𝘁
Bun baru-baru ini melancarkan penulisan semula Rust yang besar. Pasukan tersebut menggunakan Claude AI untuk menulis sebahagian besarnya. Penulisan semula ini menambah lebih 13,000 blok kod tidak selamat (unsafe code) ke dalam pangkalan kod tersebut.
Dalam pengaturcaraan sistem, kod tidak selamat memintas peraturan keselamatan memori. Satu blok tidak selamat adalah satu risiko. Tiga belas ribu blok dalam kod yang dijana AI adalah satu krisis.
Pasukan tersebut juga melancarkan ini tanpa pengumpul sampah serentak (concurrent garbage collector). Ini menyukarkan pengurusan memori dalam beban kerja berbilang bebenang (multithreaded workloads).
Saya faham keperluan untuk kepantasan. Pasukan kecil mesti bergerak pantas untuk bersaing dengan Node.js dan Deno. Namun, kepantasan tidak seharusnya menggantikan ketelitian.
Satu blok kod tidak selamat adalah satu janji bahawa akses memori adalah sah. Jika AI yang menulis kod tersebut, tiada manusia yang menandatangani janji itu.
Kod AI tidaklah buruk. Walau bagaimanapun, menggunakan AI untuk menjana kod tidak selamat pada skala ini adalah berbahaya.
Runtime bukanlah sekadar perpustakaan (library) biasa. Ia adalah asas kepada keseluruhan aplikasi anda. Apabila anda memilih satu runtime, anda memilih untuk mempercayainya.
Sesetengah pembangun beralih kembali ke Node.js kerana kebimbangan terhadap kestabilan. Ini adalah hasil daripada pelancaran infrastruktur eksperimental.
Saya menggunakan alatan AI setiap hari. Saya melayan kod AI seperti kod daripada jurutera junior. Ia memerlukan semakan yang setimpal dengan risikonya.
Risiko berbilang bebenang (multithreading) dalam runtime JavaScript adalah sangat besar. 13,000 blok tersebut memerlukan 13,000 alasan kukuh untuk wujud. Ia tidak memerlukan 13,000 cop kelulusan (rubber stamps) semata-mata.
Penjanaan AI berkelajuan tinggi memerlukan semakan berkelajuan tinggi.
Bun mempunyai potensi yang besar. Pasukan tersebut telah melakukan kerja yang mengagumkan. Namun, menjadi bercita-cita tinggi tanpa berhati-hati akan mewujudkan liabiliti.
Kita tidak seharusnya berhenti menggunakan AI. Kita mesti memastikan tahap semakan setimpal dengan kesan kerosakan (blast radius). AI tidak dapat mempertimbangkan kos akibat kesilapan.
Adakah anda akan menjalankan 13,000 blok tidak selamat yang dijana AI dalam aplikasi produksi anda? Apakah had anda dalam mempercayai AI untuk infrastruktur?