𝗧𝗵𝗲 𝗥𝘀𝘆𝗻𝗰 𝗗𝗶𝘀𝗮𝘀𝘁𝗲𝗿 𝗮𝗻𝗱 𝗔𝗜 𝗜𝗻𝗳𝗿𝗮𝘀𝘁𝗿𝘂𝗰𝘁𝘂𝗿𝗲 𝗥𝗶𝘀𝗸
rsync ના એક મેન્ટેનરે રિલીઝ કરવામાં મદદ મેળવવા માટે Claude નો ઉપયોગ કર્યો. આ રિલીઝને કારણે absolute path handling માં ખામી સર્જાઈ.
Rsync લાખો સર્વર્સ પર ચાલે છે. તે બેકઅપ, ડિપ્લોયમેન્ટ્સ અને મિરર્સનું સંચાલન કરે છે. જો rsync નિષ્ફળ જાય, તો બેકઅપ અટકી જાય છે. ડેટા સિંક થતો નથી. આ સાધન (tool) બધે જ હોવાથી તેનું નુકસાન ઘણું મોટું હોઈ શકે છે.
આ બગ (bug) AI ની મદદથી તૈયાર કરવામાં આવેલા સિક્યુરિટી પેચમાંથી આવ્યો હતો. આ AI કોડિંગ ટૂલ્સ સાથેની એક મોટી સમસ્યાને ઉજાગર કરે છે.
AI આસિસ્ટન્ટ્સ પેટર્ન પર કામ કરે છે. તેઓ નવો કોડ અથવા boilerplate લખવામાં નિપુણ છે. પરંતુ સ્થિર ઇન્ફ્રાસ્ટ્રક્ચર કોડ એવો જ રહેવો જોઈએ. તેની કાર્યપદ્ધતિમાં ફેરફાર થવો જોઈએ નહીં.
Rsync નો કોડ જાણીજોઈને વિચિત્ર દેખાય છે. તે વર્ષો પહેલા પ્રોડક્શનમાં જોવા મળેલી edge cases ને હેન્ડલ કરે છે. AI આ વિચિત્ર કોડ જુએ છે અને તેને સુધારવાનો પ્રયાસ કરે છે. તે વપરાશકર્તાઓ સાથેના અસ્પષ્ટ કરારો (implicit contracts) ને સમજી શકતું નથી.
AI નો હેતુ ટૂલને તોડવાનો નહોતો. તેને ફક્ત એટલું જ ખબર નહોતી કે સૌથી મહત્વની પ્રાથમિકતા કંઈપણ ન બદલવાની હતી.
હું દરરોજ AI નો ઉપયોગ કરું છું. તે મને ઝડપથી લખવામાં અને પ્રયોગો કરવામાં મદદ કરે છે. હું AI ની વિરુદ્ધ નથી. પરંતુ હું ઇન્ફ્રાસ્ટ્રક્ચર કોડમાં AI ને ક્યારેય નિર્ણાયક નિર્ણયો લેવા દેતો નથી. હું AI ના દરેક સૂચનને જુનિયર ડેવલપરની કોમેન્ટ જેવું માનું છું.
જોખમ 'trust gradient' માં છે. જો AI તમને દસ સારા જવાબો આપે, તો તમે અગિયારમા જવાબ પર વધુ પડતો વિશ્વાસ કરો છો. તમે તેની ઓછી સમીક્ષા કરો છો. તમે તેને ઝડપથી મંજૂર કરો છો.
આ 'context collapse' ની સમસ્યા છે. AI વીકેન્ડ પ્રોજેક્ટ અને ત્રીસ વર્ષ જૂના Unix યુટિલિટી સાથે સમાન સ્તરના આત્મવિશ્વાસ સાથે વ્યવહાર કરે છે. તે જે કોડને સ્પર્શે છે તેનું મહત્વ તેને ખબર નથી હોતી.
મેન્ટેનર્સ પાસે જવાબદારી છે. પરંતુ આપણને નવા guardrails ની જરૂર છે.
AI-સહાયિત ડેવલપમેન્ટ માટે વિવિધ જોખમના સ્તરો માટે અલગ નિયમોની જરૂર છે. જો અમુક કોડ બગડે તો તેની કિંમત ખૂબ મોટી હોય છે. આમાં rsync, OpenSSL અને ડેટાબેઝ ડ્રાઇવર્સનો સમાવેશ થાય છે.
Rsync ની ઘટના એક ચેતવણી હતી. કોઈ ડેટા ગુમાવવામાં આવ્યો નથી, પરંતુ તે દર્શાવે છે કે આપણે શા માટે સાવધ રહેવું જોઈએ.
AI નો ઉપયોગ કરવાનું બંધ ન કરો. તેના બદલે, વધુ સારી સહજ વૃત્તિ (instincts) કેળવો. મશીન પર ક્યારે અવિશ્વાસ કરવો તે જાણો.
તમે કયા બિંદુએ AI ના સૂચનો પર વિશ્વાસ કરવાનું બંધ કરો છો? ક્યારે કોડબેઝ એટલો નિર્ણાયક બની જાય છે કે તેના માટે અત્યંત કડક (paranoid) સમીક્ષા સિવાય બીજું કંઈ ચાલે નહીં?
Source: https://dev.to/adioof/the-rsync-disaster-proves-ai-isnt-ready-for-infrastructure-code-4154
Optional learning community: https://t.me/GyaanSetuAi