𝗕𝘂𝗻 ने असुरक्षित AI कोड शिप किया
Bun ने हाल ही में एक बड़ा Rust रीराइट (rewrite) जारी किया है। टीम ने इसका अधिकांश हिस्सा लिखने के लिए Claude AI का उपयोग किया। इस रीराइट ने कोडबेस में 13,000 से अधिक unsafe कोड ब्लॉक्स जोड़ दिए हैं।
सिस्टम प्रोग्रामिंग में, unsafe कोड मेमोरी सुरक्षा नियमों (memory safety rules) को दरकिनार कर देता है। एक unsafe ब्लॉक भी एक जोखिम है। AI-जनरेटेड कोड में तेरह हजार ब्लॉक एक संकट है।
टीम ने इसे बिना किसी concurrent garbage collector के भी जारी किया है। यह multithreaded वर्कलोड में मेमोरी मैनेजमेंट को कठिन बना देता है।
मैं गति की आवश्यकता को समझता हूँ। Node.js और Deno के साथ प्रतिस्पर्धा करने के लिए छोटी टीमों को तेज़ी से आगे बढ़ना पड़ता है। लेकिन गति को सावधानी का विकल्प नहीं बनना चाहिए।
एक unsafe कोड ब्लॉक इस बात का वादा है कि मेमोरी एक्सेस वैध है। यदि AI कोड लिखता है, तो उस वादे पर किसी इंसान ने हस्ताक्षर नहीं किए हैं।
AI कोड बुरा नहीं है। हालाँकि, इस स्तर पर unsafe कोड जेनरेट करने के लिए AI का उपयोग करना खतरनाक है।
एक runtime कोई साधारण लाइब्रेरी नहीं है। यह आपके पूरे एप्लिकेशन की नींव है। जब आप एक runtime चुनते हैं, तो आप उस पर भरोसा करने का चुनाव कर रहे होते हैं।
स्थिरता (stability) संबंधी चिंताओं के कारण कुछ डेवलपर्स वापस Node.js की ओर जा रहे हैं। यह एक्सपेरिमेंटल इंफ्रास्ट्रक्चर (experimental infrastructure) को शिप करने का परिणाम है।
मैं हर दिन AI टूल्स का उपयोग करता हूँ। मैं AI कोड के साथ एक जूनियर इंजीनियर के कोड की तरह व्यवहार करता हूँ। इसे ऐसे रिव्यू की आवश्यकता है जो जोखिम के अनुरूप हो।
JavaScript runtime में multithreading का जोखिम बहुत बड़ा है। उन 13,000 ब्लॉक्स के अस्तित्व के लिए 13,000 ठोस कारणों की आवश्यकता है। उन्हें 13,000 'रबर स्टैम्प' की आवश्यकता नहीं है।
हाई-वेलोसिटी AI जनरेशन के लिए हाई-वेलोसिटी रिव्यू की आवश्यकता होती है।
Bun में अपार क्षमता है। टीम ने प्रभावशाली काम किया है। लेकिन बिना सावधानी के महत्वाकांक्षी होना एक देनदारी (liability) पैदा करता है।
हमें AI का उपयोग करना बंद नहीं करना चाहिए। हमें यह सुनिश्चित करना चाहिए कि रिव्यू का स्तर 'ब्लास्ट रेडियस' (blast radius) के अनुरूप हो। AI गलत होने की कीमत के बारे में तर्क नहीं कर सकता।
क्या आप अपने प्रोडक्शन ऐप में 13,000 AI-जनरेटेड unsafe ब्लॉक्स चलाएंगे? इंफ्रास्ट्रक्चर के लिए AI पर भरोसा करने की आपकी सीमा क्या है?