𝗕𝘂𝗻 𝗵𝗲𝘁 𝘂𝗶𝘁𝗴𝗲𝗯𝗿𝗮𝗰𝗵𝘁 𝗼𝗻𝘃𝗲𝗶𝗹𝗶𝗴𝗲 𝗔𝗜-𝗰𝗼𝗱𝗲
Bun heeft onlangs de kern herschreven in Rust. Ze hebben ook experimentele multithreading toegevoegd. Dit zijn grote stappen. De methode die is gebruikt om deze doelen te bereiken is echter zorgwekkend.
Het Bun-team gaf toe dat Claude AI een groot deel van de Rust-herschrijving heeft geschreven. Deze wijziging voegde meer dan 13.000 unsafe blocks toe aan de codebase. Het is ook uitgebracht zonder een concurrent garbage collector.
Bij systeemprogrammering omzeilt unsafe code de geheugenveiligheid. Eén unsafe block is een risico. Dertienduizend blocks van een AI is een groot risico.
Ik begrijp de behoefte aan snelheid. Kleine teams moeten snel bewegen om te kunnen concurreren met Node.js en Deno. Maar snelheid zonder zorgvuldigheid is gevaarlijk.
Elk unsafe block is een belofte van een geldige geheugentoegang. Wanneer een AI de code schrijft, wie ondertekent die belofte dan?
De risico's zijn duidelijk:
- AI-code mist menselijke redenering voor geheugenbeheer.
- Generatie met een hoge snelheid vereist review met een hoge snelheid.
- Het ontbreken van een concurrent garbage collector maakt multithreaded workloads instabiel.
Een runtime is geen eenvoudige bibliotheek. Het is de fundering van je gehele applicatie. Je kiest een runtime op basis van vertrouwen. Wanneer infrastructuur experimenteel aanvoelt, keren ontwikkelaars terug naar stabiele tools zoals Node.js.
Ik gebruik dagelijks AI-tools. Ik behandel AI-code op dezelfde manier als code van een junior engineer. Het heeft een review nodig die in verhouding staat tot de impact ervan.
De impact van multithreading binnen een runtime is enorm. Dertienduizend unsafe blocks hebben dertienduizend goede redenen nodig. Ze hebben geen dertienduizend automatische goedkeuringen nodig.
Ambitieus zijn is goed. Onvoorzichtig zijn met systeemcode is een risico.
Zou jij 13.000 door AI gegenereerde unsafe blocks draaien in je productie-app? Wat is jouw grens voor het vertrouwen in AI voor infrastructuur?
Optional learning community: https://t.me/GyaanSetuAi