Rsync आपदा और AI इंफ्रास्ट्रक्चर जोखिम
rsync के एक मेंटेनर ने एक रिलीज़ भेजने में मदद के लिए Claude का उपयोग किया। उस रिलीज़ ने absolute path हैंडलिंग को खराब कर दिया।
Rsync लाखों सर्वरों पर चलता है। यह बैकअप, डिप्लॉयमेंट और मिरर को संभालता है। यदि rsync विफल हो जाता है, तो बैकअप रुक जाते हैं। डेटा सिंक नहीं होता है। नुकसान बहुत बड़ा है क्योंकि यह टूल हर जगह मौजूद है।
यह बग AI की सहायता से बनाए गए एक सुरक्षा पैच (security patch) से आया था। यह AI कोडिंग टूल्स के साथ एक बड़ी समस्या को उजागर करता है।
AI असिस्टेंट पैटर्न पर काम करते हैं। वे नया कोड या बॉयलरप्लेट (boilerplate) लिखने में माहिर होते हैं। लेकिन स्थिर इंफ्रास्ट्रक्चर कोड को वैसा ही रहना चाहिए। इसके व्यवहार में बदलाव नहीं होना चाहिए।
Rsync का कोड जानबूझकर अजीब दिखता है। यह वर्षों पहले प्रोडक्शन में पाए गए एज केस (edge cases) को संभालता है। एक AI इस अजीब कोड को देखता है और इसे बेहतर बनाने की कोशिश करता है। यह उपयोगकर्ताओं के साथ निहित अनुबंधों (implicit contracts) को नहीं समझता है।
AI का इरादा टूल को खराब करने का नहीं था। उसे बस यह नहीं पता था कि सर्वोच्च प्राथमिकता किसी भी चीज़ को न बदलना थी।
मैं हर दिन AI का उपयोग करता हूँ। यह मुझे तेज़ी से लिखने और प्रयोग करने में मदद करता है। मैं AI के खिलाफ नहीं हूँ। लेकिन मैं इंफ्रास्ट्रक्चर कोड में महत्वपूर्ण निर्णय लेने के लिए कभी भी AI पर भरोसा नहीं करता। मैं AI के हर सुझाव को एक जूनियर डेवलपर की टिप्पणी की तरह मानता हूँ।
खतरा 'ट्रस्ट ग्रेडिएंट' (trust gradient) में है। यदि AI आपको दस अच्छे उत्तर देता है, तो आप ग्यारहवें उत्तर पर बहुत अधिक भरोसा करने लगते हैं। आप उसकी कम समीक्षा करते हैं। आप उसे तेज़ी से अप्रूव कर देते हैं।
यह 'कॉन्टेक्स्ट कोलैप्स' (context collapse) की समस्या है। AI एक वीकेंड प्रोजेक्ट और तीस साल पुराने Unix यूटिलिटी के साथ एक ही स्तर के आत्मविश्वास के साथ व्यवहार करता है। उसे उस कोड के महत्व का पता नहीं होता जिसे वह छूता है।
जिम्मेदारी मेंटेनर्स की होती है। लेकिन हमें नए गार्डरेल्स (guardrails) की आवश्यकता है।
AI-सहायता प्राप्त विकास (AI-assisted development) के लिए अलग-अलग जोखिम स्तरों के लिए अलग-अलग नियमों की आवश्यकता है। यदि कुछ कोड टूट जाता है, तो उसकी भारी कीमत चुकानी पड़ती है। इसमें rsync, OpenSSL और डेटाबेस ड्राइवर्स शामिल हैं।
rsync की घटना एक चेतावनी थी। कोई डेटा नहीं खोया, लेकिन यह दिखाता है कि हमें सावधान क्यों रहना चाहिए।
AI का उपयोग करना बंद न करें। इसके बजाय, बेहतर सहज ज्ञान (instincts) विकसित करें। जानें कि मशीन पर कब अविश्वास करना है।
आप किस बिंदु पर AI सुझावों पर भरोसा करना बंद कर देते हैं? एक कोडबेस कब इतना महत्वपूर्ण हो जाता है कि उसके लिए अत्यधिक सावधानीपूर्वक समीक्षा के अलावा कुछ भी पर्याप्त न हो?
स्रोत: https://dev.to/adioof/the-rsync-disaster-proves-ai-isnt-ready-for-infrastructure-code-4154
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi