છેલ્લા કેટલાક વર્ષોથી, સુરક્ષા ઉદ્યોગ આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) વિશે રક્ષકો માટે 'ફોર્સ મલ્ટિપ્લાયર' (શક્તિમાં વધારો કરનાર) તરીકે વાત કરી રહ્યો છે. વાર્તા કંઈક આવી હતી: મશીન લર્નિંગ મોડલ્સ લોગ્સ તપાસશે, માનવ વિશ્લેષકો ચૂકી ગયા હોય તેવી વિસંગતતાઓ શોધશે અને જોખમ શોધવાનું કંટાળાજનક કામ સંભાળશે. આ વાર્તા માત્ર અડધી સાચી છે. Check Point Research ના તાજેતરના તારણો મુજબ, બીજી અડધી હકીકત એ છે કે હુમલાખોરો હવે માત્ર પ્રયોગો કરવા પૂરતા મર્યાદિત નથી રહ્યા. તેઓ અત્યારે જ લાઈવ હુમલા કરવા માટે AI નો ઉપયોગ કરી રહ્યા છે. આ ટેકનોલોજી હવે માત્ર આગામી એપ્લિકેશન સ્ટેક બનાવતા ડેવલપર્સ માટેનું સાધન નથી રહી. તે ગુનેગારોના હાથમાં એક સક્રિય શસ્ત્ર બની ગઈ છે, જે અગાઉ ક્યારેય ન જોયેલા સ્કેલ પર છેતરપિંડીને ઓટોમેટ કરી રહ્યા છે.
જ્યારે હુમલાખોરો લાઈવ ઓપરેશન્સ માટે AI નો ઉપયોગ કરે છે
આ રિપોર્ટ જોખમ ઊભી કરનારાઓ (threat actors) તેમની ઝુંબેશ કેવી રીતે આયોજિત કરે છે તેમાં આવેલા નિર્ણાયક પરિવર્તનને રેખાંકિત કરે છે. સ્ટેટિક કોડ અને મેન્યુઅલ કમાન્ડ-એન્ડ-કંટ્રોલ પર આધાર રાખવાને બદલે, હુમલાખોરો VoidLink જેવા જટિલ માલવેર ફ્રેમવર્ક બનાવી રહ્યા છે. આ પ્રકારના ફ્રેમવર્ક એક મોડ્યુલર અભિગમ તરફ નિર્દેશ કરે છે જ્યાં ઘટકો અનુકૂલન સાધી શકે છે, અપડેટ થઈ શકે છે અને ગતિશીલ રીતે વાતચીત કરી શકે છે. જ્યારે AI આ સિસ્ટમ્સને ચલાવે છે, ત્યારે માલવેર ઝુંબેશ ઘણી ઓછી અનુમાનિત (predictable) બની જાય છે. પેલોડ્સ તેઓ જે વાતાવરણને ચેપગ્રસ્ત કરે છે તેના આધારે પોતાનું વર્તન બદલી શકે છે, જે સિગ્નેચર-આધારિત ડિટેક્શનને ઘણું મુશ્કેલ બનાવે છે અને એવા બિહેવિયરલ મોનિટરિંગની માંગ કરે છે જે બહુ ઓછી સંસ્થાઓએ સંપૂર્ણપણે અમલમાં મૂક્યું છે.
વધુ આઘાતજનક બાબત એ છે કે કોમર્શિયલ AI મોડલ્સનો સીધો ઉપયોગ (exploitation) થઈ રહ્યો છે. હુમલાખોરો છુપાયેલા ફોરમમાં બનાવેલા અંડરગ્રાઉન્ડ ટૂલ્સ પૂરતા મર્યાદિત નથી. તેઓ એ જ લાર્જ લેંગ્વેજ મોડલ્સ અને AI સેવાઓનો દુરુપયોગ કરી રહ્યા છે જેનો ઉપયોગ કાયદેસરના વ્યવસાયો દરરોજ કરે છે. સિસ્ટમ્સને જેલબ્રેક કરીને, પ્રોમ્પ્ટ એન્જિનિયરિંગને રિફાઇન કરીને અથવા ફક્ત મોટી સંખ્યામાં API કોલ્સને ઓટોમેટ કરીને, ગુનેગારો સુરક્ષા સેટિંગ્સને બાયપાસ કરે છે અને મશીન સ્પીડ પર ફિશિંગ ઈમેલ, માલશિયસ સ્ક્રિપ્ટ્સ અને સોશિયલ એન્જિનિયરિંગ લુર્સ (છેતરપિંડીના સાધનો) બનાવે છે. વિરોધાભાસ સ્પષ્ટ છે: લોકોને કોડ લખવામાં અથવા દસ્તાવેજોનો સારાંશ મેળવવામાં મદદ કરવા માટે બનાવેલ ઈન્ફ્રાસ્ટ્રક્ચરનો હવે એ જ સંસ્થાઓમાં ઘૂસણખોરી કરવા માટે હાઈજેક કરવામાં આવી રહ્યું છે જેમણે તેના માટે ચૂકવણી કરી હતી.
સમજવા જેવી ચાર AI-સંચાલિત જોખમો
Check Point નું વિશ્લેષણ ચાર ચોક્કસ દુરુપયોગના કિસ્સાઓ તરફ નિર્દેશ કરે છે જેને સુરક્ષા ટીમોએ વિગતવાર ઓળખવાની જરૂર છે. દરેક કિસ્સો માનવ સ્કેલિંગ મર્યાદાઓ વિના હુમલાખોર શું હાંસલ કરી શકે છે તેના ગણિતને બદલી નાખે છે.
ઓટોમેટેડ ફિશિંગ હુમલા દાયકાઓથી પૂર્વીય સ્વરૂપોમાં અસ્તિત્વ ધરાવે છે, પરંતુ AI બાકીના અવરોધોને દૂર કરે છે. હુમલાખોરો સેકન્ડોમાં અત્યંત વ્યક્તિગત ઈમેલ બનાવવા માટે સોશિયલ મીડિયા અને કોર્પોરેટ વેબસાઇટ્સમાંથી ડેટા સ્ક્રેપ કરી શકે છે, જેમાં ટોન, ભાષા અને સંદર્ભને એવી રીતે એડજસ્ટ કરવામાં આવે છે કે જેથી બલ્ક કેમ્પેઈન પણ વન-ટુ-વન મેસેજ જેવું લાગે. જ્યારે દરેક સ્પીયર-ફિશિંગ ઈમેલ હાથથી બનાવેલો હોય તેવો લાગે છે, ત્યારે અસ્પષ્ટ વ્યાકરણ અથવા માસ-ઈમેલ હેડર્સ પર આધારિત પરંપરાગત ડિટેક્શન નિષ્ફળ જાય છે.
વોઈસ-એજન્ટ વિશિંગ (vishing) કિટ્સ એ એવા વધારાના જોખમનું પ્રતિનિધિત્વ કરે છે જે રેકોર્ડ કરેલા ડીપફેક્સથી પણ આગળ છે. આ કિટ્સ ઇન્ટરેક્ટિવ વોઈસ એજન્ટ્સ તૈનાત કરે છે જે પીડિતો સાથે રીઅલ-ટાઇમ વાતચીત કરવા સક્ષમ હોય છે. કલ્પના કરો કે એક કોલ જે તમારા IT હેલ્પ ડેસ્ક જેવો જ લાગે છે, તમારા પ્રશ્નોના કુદરતી રીતે જવાબ આપે છે અને તાકીદના ધોરણે તમારો મલ્ટી-ફેક્ટર ઓથેન્ટિકેશન કોડ માંગે છે. અવાજ કૃત્રિમ છે, સ્ક્રિપ્ટ તરત જ જનરેટ થાય છે, અને પીડિત એવા સોફ્ટવેર સાથે વાત કરી રહ્યો છે જે ક્યારેય ગભરાતું નથી, ક્યારેય શબ્દોમાં અટકાતું નથી અને ક્યારેય તેના લક્ષ્યથી વિચલિત થતું નથી.
બનાવટી વર્ચ્યુઅલ ઓળખ (Forged virtual identities) આ છેતરપિંડીને સિંગલ કોલથી લઈને આખી વ્યક્તિગત ઓળખ (personas) સુધી વિસ્તૃત કરે છે. જોખમ ઊભી કરનારાઓ જનરેટ કરેલા ફોટા, બનાવટી જોબ હિસ્ટ્રી અને કૃત્રિમ નેટવર્ક કનેક્શન સાથે સિન્થેટિક પ્રોફાઇલ્સ બનાવી શકે છે. આ ઓળખ માત્ર એક મેસેજ જ નથી મોકલતી; તેઓ વ્યાવસાયિક નેટવર્ક્સમાં જોડાઈ શકે છે, ઉદ્યોગની ચર્ચાઓમાં ભાગ લઈ શકે છે અને માલશિયસ પેલોડ પહોંચાડતા અથવા સંવેદનશીલ ક્રેડેન્શિયલ્સ માંગતા પહેલા અઠવાડિયા અથવા મહિનાઓ સુધી વિશ્વાસ કેળવી શકે છે. લાંબી છેતરપિંડી હવે ઔદ્યોગિક બની ગઈ છે.
ઇનડાયરેક્ટ પ્રોમ્પ્ટ ઇન્જેક્શન હુમલા સીધા અંતિમ વપરાશકર્તાને બદલે AI એપ્લિકેશન્સના આર્કિટેક્ચરને લક્ષ્ય બનાવે છે. હુમલાખોર વેબપેજ, દસ્તાવેજ અથવા ઈમેલની અંદર માલશિયસ સૂચનાઓ છુપાવે છે જેને AI એજન્ટ પછી પ્રોસેસ કરે છે. જ્યારે કોર્પોરેટ આસિસ્ટન્ટ ટૂલ તે ઝેરી ડેટા વાંચે છે, ત્યારે તે હુમલાખોરે નાખેલી સૂચનાઓનું પાલન કરે છે, જે સંભવિત રીતે ગોપનીય માહિતી લીક કરી શકે છે અથવા વપરાશકર્તા વતી અનધિકૃત પગલાં લઈ શકે છે. એપ્લિકેશન ખામીયુક્ત હોય તેવું લાગે છે, પરંતુ તે ફક્ત એવી સૂચનાઓનું પાલન કરી રહી હોય છે જે તેણે ક્યારેય જોવી ન જોઈએ.
આંતરિક મોરચો: અનધિકૃત AI અને ડેટા લીક
આ બાહ્ય જોખમો ઓફિસની દીવાલોની અંદર બની રહેલી એક શાંત કટોકટી દ્વારા વધુ ગંભીર બને છે. સંસ્થાઓ હવે અનધિકૃત AI ઉપયોગથી ગંભીર જોખમનો સામનો કરી રહી છે, જેને ઘણીવાર shadow AI કહેવામાં આવે છે, જ્યાં કર્મચારીઓ દૈનિક કાર્યોને ઝડપી બનાવવા માટે માલિકીનો કોડ, ક્લાયન્ટના રેકોર્ડ્સ અથવા વ્યૂહાત્મક યોજનાઓ પબ્લિક ચેટબોટ્સમાં પેસ્ટ કરે છે. તેનું પરિણામ એ છે કે