AI કોડ આસિસ્ટન્ટ્સ એવા પેકેજ નામો આપી રહ્યા છે જે અસ્તિત્વમાં નથી, અને હુમલાખોરો આ ભ્રમણાઓને (hallucinations) વાસ્તવિક સપ્લાય-ચેઈન જોખમોમાં ફેરવી રહ્યા છે.
જ્યારે Lasso Security ના સુરક્ષા સંશોધક Bar Lanyado એ AI-સંચાલિત કોડિંગ ટૂલ પાસે Python ક્લાયન્ટ વિશે પૂછ્યું, ત્યારે મોડેલે huggingface-cli ઇન્સ્ટોલ કરવાનું સૂચન કર્યું. આ પેકેજ એક કાલ્પનિક (phantom) નામ છે; સાચી લાઇબ્રેરી huggingface_hub નામે ઉપલબ્ધ છે. જોખમ સાબિત કરવા માટે, Lanyado એ આ ખોટા નામને Python Package Index (PyPI) પર એક ખાલી પ્લેસહોલ્ડર તરીકે રજિસ્ટર કર્યું. ત્રણ મહિનાની અંદર આ પ્લેસહોલ્ડર પર 30,000 થી વધુ ડાઉનલોડ્સ થયા, તે જાહેર દસ્તાવેજોમાં જોવા મળ્યું અને Alibaba ના રિપોઝિટરીઝમાંથી મેળવવામાં આવેલા કોડ સેમ્પલ્સમાં પણ દેખાયું.
કેવી રીતે એક કાલ્પનિક પેકેજ વાસ્તવિક જોખમ બને છે
- Prompt → hallucination – ડેવલપર AI પાસે મદદ માંગે છે. ઇન્ટરનેટના અસ્પષ્ટ ડેટા પર તાલીમ પામેલું મોડેલ, સાંભળવામાં યોગ્ય લાગે તેવું પેકેજ નામ બનાવી દે છે.
- Copy-paste → documentation – આ સૂચન README, Stack Overflow ના જવાબમાં અથવા આંતરિક વિકી (wiki) માં આવી જાય છે. એકવાર લખાઈ ગયા પછી, આ નામ સમુદાયમાં ફેલાઈ જાય છે.
- Code integration – ડેવલપર, AI પર વિશ્વાસ રાખીને, આ નામને requirements ફાઇલમાં ઉમેરે છે અને તેને production માં મોકલે છે.
શા માટે હાલના સુરક્ષા ઉપાયો આ સમસ્યાને ઓળખી શકતા નથી
સ્ટેટિક એનાલિસિસ ટૂલ્સ અને vulnerability સ્કેનર્સ જાણીતા CVEs અને રિલીઝ ઇતિહાસ ધરાવતી લાઇબ્રેરીઓ શોધે છે. AI ના સૂચન પહેલાં શૂન્ય ડાઉનલોડ્સ ધરાવતું નવું પ્રકાશિત થયેલું પેકેજ પાસે કોઈ CVE હોતું નથી, કોઈ પ્રતિષ્ઠા હોતી નથી, અને તેથી તે સુરક્ષિત દેખાય છે. પ્રમાણભૂત “શું આ વર્ઝન નબળું (vulnerable) છે?” ચેક 'false' પરિણામ આપે છે, જે ડેવલપર્સને સુરક્ષાનો ખોટો અહેસાસ કરાવે છે.
આ પ્રયોગ શું સાબિત કરે છે
- AI દ્વારા બનાવવામાં આવેલા નામો production સુધી પહોંચે છે – 30,000 થી વધુ ડાઉનલોડ્સ દર્શાવે છે કે ડેવલપર્સ ખરેખર આ કાલ્પનિક પેકેજો ડાઉનલોડ કરી રહ્યા છે.
- ભ્રમણાઓ દસ્તાવેજીકરણ (documentation) બની જાય છે – એકવાર નકલી નામ જાહેર માર્ગદર્શિકામાં આવી જાય, પછી તે અનિશ્ચિત સમય સુધી રહી શકે છે અને ભૂલને ફેલાવી શકે છે.
- રજિસ્ટ્રેશન કરવું અત્યંત સરળ છે – PyPI પર પેકેજ પ્રકાશિત કરવા માટે કોઈ ખર્ચ થતો નથી અને તેમાં માત્ર થોડી મિનિટો લાગે છે, જે સપ્લાય-ચેઈન દુરુપયોગ માટે અવરોધ ઘટાડે છે.
ખરેખર કામ લાગે તેવા સુરક્ષાત્મક પગલાં
- દરેક dependency ને ચકાસો – નવી જરૂરિયાત ઉમેરતા પહેલા, પેકેજ ઇન્ડેક્સમાં શોધો અને ખાતરી કરો કે નામ અસ્તિત્વમાં રહેલી, દસ્તાવેજીકૃત લાઇબ્રેરી સાથે મેળ ખાય છે.
- સત્તાવાર સ્ત્રોતો સાથે સરખાવો – સૂચવેલા નામને વેન્ડરની રિપોઝિટરી અથવા સત્તાવાર ઇન્સ્ટોલેશન ગાઇડ સાથે સરખાવો.
- નવા અને ઓછા વપરાશવાળા પેકેજોને ઉચ્ચ જોખમ તરીકે ગણો – જે dependency માં ખૂબ ઓછા ડાઉનલોડ્સ હોય અથવા તાજેતરમાં જ રિલીઝ થઈ હોય, તેને મેન્યુઅલ રિવ્યુ માટે ફ્લેગ કરો.
આગળ શું ધ્યાન રાખવું
મુખ્ય વાત સરળ છે: AI નું સૂચન એ કોઈ ગેરંટી નથી. દરેક નવી dependency ને વણચકાસાયેલ તૃતીય-પક્ષ (third-party) ઘટક તરીકે ગણો, તેના મૂળની ચકાસણી કરો, અને કાલ્પનિક પેકેજને production માં પ્રવેશતા પહેલા સપ્લાય ચેઈન પર નજર રાખો.