AI કોડિંગ સુરક્ષા: પ્રોમ્પ્ટ ઇન્જેક્શન તમારા પ્રોજેક્ટ ફાઇલોમાં છુપાયેલું છે

તમારો AI કોડિંગ આસિસ્ટન્ટ તમારા રિપોઝિટરીની દરેક ફાઇલ વાંચે છે. તે તમારું README, તમારી કોન્ફિગ ફાઇલો અને તમારા નિયમો વાંચે છે. તે કોડ કેવી રીતે લખવો તે નક્કી કરવા માટે આ ફાઇલોનો ઉપયોગ કરે છે.

એક નવો સુરક્ષા ખતરો આ જ વર્તણૂકનો લાભ લે છે. સંશોધકોએ 28 અલગ-અલગ AI કોડિંગ ટૂલ્સમાં એક નબળાઈ શોધી કાઢી છે. આ હુમલો કોઈ જટિલ હેક નથી. તે તમારી રિપોઝિટરીમાં રહેલી એક સાદી ટેક્સ્ટ ફાઇલ છે.

હુમલો કેવી રીતે કામ કરે છે:

તમે એક ઓપન-સોર્સ પ્રોજેક્ટ ક્લોન કરો છો. તે સામાન્ય લાગે છે. તમે તેને તમારા AI એડિટરમાં ખોલો છો અને નવી સુવિધા માટે પૂછો છો. તમે કોન્ફિગરેશન ફાઇલોમાં છુપાયેલા યુનિકોડ (Unicode) કેરેક્ટર્સ જોઈ શકતા નથી. આ કેરેક્ટર્સ સૂચનાઓને તમારાથી છુપાવે છે પરંતુ AI ને કંઈક બીજું કરવા માટે કહે છે.

છુપાયેલી સૂચના AI ને તમારા AWS ક્રેડેન્શિયલ્સ બાહ્ય સર્વર પર મોકલવા માટે કહે છે. AI ને લાગે છે કે આ પ્રોજેક્ટની કાયદેસરની સૂચના છે. તે આ કમાન્ડ ચલાવે છે. તમારી ગુપ્ત માહિતી ચોરાઈ જાય છે.

આને રોકવું મુશ્કેલ કેમ છે:

  • છુપાયેલા કેરેક્ટર્સ: તમે પ્રમાણભૂત ટેક્સ્ટ જુઓ છો, પરંતુ AI અદ્રશ્ય યુનિકોડ કેરેક્ટર્સ દ્વારા હાનિકારક કમાન્ડ્સ જુએ છે.
  • દરેક ફાઇલ એ એન્ટ્રી પોઇન્ટ છે: README અથવા લાઇબ્રેરીમાં આપેલી કોઈ કોમેન્ટ પેલોડ (payload) વહન કરી શકે છે.
  • ઉચ્ચ પરમિશન: AI એજન્ટ્સ ઘણીવાર તમારી યુઝર પરમિશન સાથે ચાલે છે. તેઓ તમારી SSH કી અને API ટોકન્સ વાંચી શકે છે.
  • ટૂલ કોલ્સ: AI કમાન્ડ્સ ચલાવવા માટે ટૂલ કોલ્સનો ઉપયોગ કરે છે. આ હુમલો સેફ્ટી ટ્રેનિંગને બાયપાસ કરવા માટે આ કોલ્સને નિશાન બનાવે છે.

તમારા વર્કફ્લોને કેવી રીતે સુરક્ષિત રાખવો:

  • ફાઇલ સામગ્રીને સેનિટાઇઝ કરો: AI તેને વાંચે તે પહેલાં છુપાયેલા કેરેક્ટર્સ અને સામાન્ય ઇન્જેક્શન પેટર્નને દૂર કરો.
  • સેન્ડબોક્સનો ઉપયોગ કરો: AI એજન્ટ્સને નેટવર્ક એક્સેસ વગરના કન્ટેનર્સ અને રીડ-ઓન્લી (read-only) ફાઇલ સિસ્ટમમાં ચલાવો.
  • કડક નીતિઓ સેટ કરો: માન્ય કમાન્ડ્સની વ્હાઇટલિસ્ટ બનાવો. ડેટા ખસેડે અથવા ફાઇલો ડિલીટ કરે તેવા કોઈપણ કમાન્ડ માટે માનવીય મંજૂરી જરૂરી બનાવો.

તમે તમારા કોડિંગ સેશન્સ પહેલા ઝડપી સ્કેન કરી શકો છો. તમારી ફાઇલોમાં "ignore all previous" અથવા "curl" અને "exfil" જેવા શંકાસ્પદ શબ્દો તપાસો.

AI કોડિંગ ટૂલ્સ ઉત્પાદક છે, પરંતુ તેઓ માની લે છે કે તમારી ડિસ્કમાં રહેલી ફાઇલો સુરક્ષિત છે. તે સુરક્ષિત નથી. દરેક ફાઇલને અવિશ્વાસપાત્ર ઇનપુટ તરીકે ગણો.

તમે તમારા AI વર્કફ્લોમાં પ્રોમ્પ્ટ ઇન્જેક્શનના જોખમોને કેવી રીતે સંભાળી રહ્યા છો?

સ્ત્રોત: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9