𝗥𝘀𝘆𝗻𝗰 বিপর্যয় आणि AI इन्फ्रास्ट्रक्चरमधील जोखीम
rsync च्या एका मेंटेनरने (maintainer) रिलीज पाठवण्यासाठी Claude ची मदत घेतली. या रिलीजमुळे 'absolute path handling' मध्ये बिघाड झाला.
Rsync लाखो सर्व्हरवर चालते. ती बॅकअप्स, डिप्लॉयमेंट्स आणि मिरर्स हाताळते. जर rsync फेल झाले, तर बॅकअप्स थांबतात. डेटा सिंक होत नाही. हे टूल सर्वत्र असल्यामुळे होणारे नुकसान प्रचंड असते.
हा बग AI च्या मदतीने तयार केलेल्या सिक्युरिटी पॅचमधून आला. हे AI कोडिंग टूल्समधील एका मोठ्या समस्येकडे लक्ष वेधते.
AI असिस्टंट्स पॅटर्नवर काम करतात. ते नवीन कोड किंवा 'boilerplate' लिहिण्यात उत्कृष्ट असतात. परंतु, स्थिर इन्फ्रास्ट्रक्चर कोडमध्ये कोणताही बदल होऊ नये. त्याच्या कार्यपद्धतीत बदल होता कामा नये.
Rsync चा कोड मुद्दाम थोडा वेगळा दिसतो. तो अनेक वर्षांपूर्वी प्रोडक्शनमध्ये आढळलेल्या 'edge cases' हाताळतो. AI ला जेव्हा हा विचित्र कोड दिसतो, तेव्हा ते तो सुधारण्याचा प्रयत्न करते. वापरकर्त्यांशी असलेले त्याचे सुप्त करार (implicit contracts) AI ला समजत नाहीत.
AI चा उद्देश टूल बिघडवणे हा नव्हता. फक्त, काहीही न बदलणे ही सर्वोच्च प्राथमिकता आहे, हे त्याला माहित नव्हते.
मी दररोज AI वापरतो. ते मला वेगाने लिहिण्यास आणि प्रयोग करण्यास मदत करते. मी AI च्या विरोधात नाही. परंतु, इन्फ्रास्ट्रक्चर कोडमधील महत्त्वाचे निर्णय मी कधीही AI ला घेऊ देत नाही. मी AI च्या प्रत्येक सुचवणीकडे एका ज्युनिअर डेव्हलपरच्या कमेंटप्रमाणे पाहतो.
धोका 'ट्रस्ट ग्रेडियंट'मध्ये (trust gradient) आहे. जर AI ने तुम्हाला दहा चांगली उत्तरे दिली, तर तुम्ही अकराव्या उत्तरावर अतिविश्वास ठेवता. तुम्ही त्याची कमी तपासणी करता आणि ते लवकर मंजूर करता.
ही 'कॉन्टेक्स्ट कोलॅप्स'ची (context collapse) समस्या आहे. AI एखाद्या वीकेंड प्रोजेक्टला आणि तीस वर्षे जुन्या Unix युटिलिटीला सारख्याच आत्मविश्वासाने हाताळते. ते ज्या कोडला स्पर्श करते त्याचे महत्त्व त्याला समजत नाही.
मेंटेनरवर ही जबाबदारी असते. परंतु आपल्याला नवीन 'गार्डरेल्स'ची (guardrails) गरज आहे.
AI-असिस्टेड डेव्हलपमेंटसाठी वेगवेगळ्या जोखीम स्तरांनुसार वेगवेगळ्या नियमांची आवश्यकता आहे. काही कोडमध्ये बिघाड झाल्यास त्याचे परिणाम खूप गंभीर असू शकतात. यामध्ये rsync, OpenSSL आणि डेटाबेस ड्रायव्हर्सचा समावेश होतो.
rsync ची ही घटना एक इशारा होती. कोणताही डेटा गमावला गेला नाही, परंतु आपण का सावध राहिले पाहिजे हे यातून दिसून येते.
AI वापरणे थांबवू नका. त्याऐवजी, आपली उपजत समज (instincts) विकसित करा. मशीनवर कधी अविश्वास ठेवायचा हे जाणून घ्या.
तुम्ही कोणत्या टप्प्यावर AI च्या सुचवणींवर विश्वास ठेवणे थांबवता? एखादा कोडबेस कधी इतका महत्त्वाचा होतो की त्यासाठी अत्यंत सूक्ष्म (paranoid) तपासणी आवश्यक असते?
Source: https://dev.to/adioof/the-rsync-disaster-proves-ai-isnt-ready-for-infrastructure-code-4154
Optional learning community: https://t.me/GyaanSetuAi