આતંકવાદી જૂથો શસ્ત્રો અને આયોજન માટે LLMs નો કેવી રીતે ઉપયોગ કરી રહ્યા છે

Large Language Models (LLMs) ના ઝડપી લોકશાહીકરણથી માનવતાને અઢળક ફાયદા થયા છે, પરંતુ એક ચોંકાવનારો નવો અભ્યાસ આ તકનીકી પ્રગતિનું એક અંધકારમય પાસું દર્શાવે છે. આતંકવાદી સંગઠનો હવે તેમની કાર્યકારી ક્ષમતાઓને વધારવા માટે મુખ્ય પ્રવાહના AI સાધનોનો સક્રિયપણે શસ્ત્ર તરીકે ઉપયોગ કરી રહ્યા છે, જેમાં વ્યૂહાત્મક તાલીમથી લઈને વિસ્ફોટકોના વિકાસ સુધીના કાર્યોનો સમાવેશ થાય છે.

જેલબ્રેકિંગથી લઈને સમર્પિત AI યુનિટ્સ સુધી

Cambridge Programme on AI Science & Policy (CASP) ના સંશોધક એન્ટોનિયા જ્યુલિચના એક નવા અભ્યાસે ઉગ્રવાદી જૂથોમાં AI ના ઉપયોગના અત્યાધુનિક સ્તરને ઉજાગર કર્યું છે. 27 ભૂતપૂર્વ સભ્યો સાથેના 57 ઇન્ટરવ્યુ દ્વારા, સંશોધનમાં બહાર આવ્યું છે કે ISIS 2023 થી પ્રોમ્પ્ટ એન્જિનિયરિંગ અને જેલબ્રેક તાલીમ આપી રહ્યું છે. આ માત્ર સામાન્ય ઉપયોગ નથી; ISIS ના સંપર્કકર્તાઓએ કમાન્ડરોને ઉદ્યોગના અગ્રણી મોડલ્સના સેફ્ટી ફિલ્ટર્સને કેવી રીતે બાયપાસ કરવા તે અંગે સક્રિયપણે તાલીમ આપી છે.

સૌથી વધુ ચિંતાજનક બાબત એ છે કે, બોકો હરામ અલ્પકાલીન ઉપયોગથી સંસ્થાકીય એકીકરણ તરફ વળ્યું છે. અહેવાલ મુજબ, જૂથના બંને મુખ્ય જૂથોએ સમર્પિત AI યુનિટ્સ સ્થાપિત કર્યા છે. જ્યુલિચના જણાવ્યા અનુસાર, આ જૂથો AI તાલીમને ઉચ્ચ પ્રાથમિકતા આપે છે, અને આ શક્તિશાળી સાધનોનો ઉપયોગ કેવી રીતે કરવો તે દર્શાવવા માટે પ્રોજેક્ટર્સનો ઉપયોગ કરીને સમર્પિત સત્રોમાં તેમના "ટોપ લોકો" ને એકત્રિત કરે છે.

વ્યૂહાત્મક લાભ માટે મુખ્ય ચેટબોટ્સનો ઉપયોગ

અભ્યાસમાં હાઇલાઇટ કરવામાં આવ્યું છે કે કોઈ પણ મુખ્ય AI પ્લેયર આ દુરુપયોગથી અલિપ્ત નથી. આતંકવાદી જૂથો ChatGPT, Claude, Gemini, Grok, Meta AI, અને DeepSeek સહિત લોકપ્રિય ચેટબોટ્સની વિશાળ શ્રેણીનો ઉપયોગ કરી રહ્યા છે. આ સાધનોનો ઉપયોગ કેટલાક મહત્વપૂર્ણ—અને જોખમી—કાર્યો માટે કરવામાં આવી રહ્યો છે:

• હુમલાનું આયોજન: બળવાખોર કામગીરીના લોજિસ્ટિક્સ અને સમયને સુવ્યવસ્થિત કરવા માટે.
• શસ્ત્રોનો વિકાસ: વધુ શક્તિશાળી વિસ્ફોટક ઉપકરણો બનાવવા માટેની સમજ મેળવવા માટે LLMs નો ઉપયોગ કરવો.
• ઓપરેશનલ સુરક્ષા: પ્રવૃત્તિઓને છુપાવવા અને સંચાર સુરક્ષા સુધારવા માટે AI નો ઉપયોગ કરવો.
• વ્યૂહાત્મક તાલીમ: એક અત્યંત કિસ્સામાં, ISWAP જૂથ દ્વારા યુદ્ધના ખાઈઓને પાર કરવા માટે સિનેમામાંથી મોટરસાયકલ જમ્પિંગ ટેકનિકનું વિશ્લેષણ કરવા અને તેની નકલ કરવા માટે AI નો ઉપયોગ કરવામાં આવ્યો હતો.

સ્વૈચ્છિક સ્વ-નિયમન નિષ્ફળ

આ તારણો OpenAI અને Anthropic જેવી AI લેબ્સ દ્વારા લાંબા સમયથી આપવામાં આવી રહેલી ચેતવણીઓની કડવી વાસ્તવિકતા તરીકે કામ કરે છે. જોકે ડેવલપર્સે કડક સુરક્ષા ગાર્ડરેલ્સ લાગુ કર્યા છે, પરંતુ સંશોધન સૂચવે છે કે સ્વૈચ્છિક સ્વ-નિયમન ખરાબ તત્વોની ગતિ સાથે ચાલવામાં નિષ્ફળ જઈ રહ્યું છે.

LLMs નું સ્વરૂપ સંપૂર્ણ સુરક્ષાને લગભગ અશક્ય બનાવે છે; Anthropic એ તાજેતરમાં સ્વીકાર્યું છે કે જેલબ્રેક્સ ક્યારેય સંપૂર્ણપણે નાબૂદ કરી શકાશે નહીં. જ્યારે ChatGPT જેવા મુખ્ય પ્રવાહના ચેટબોટ્સ મુખ્યત્વે હાલના જ્ઞાનને વધુ સુલભ બનાવે છે, ત્યારે વાસ્તવિક અસ્તિત્વનો ખતરો વિશિષ્ટ AI સિસ્ટમ્સના સંભવિત દુરુપયોગમાં રહેલો છે. સંશોધકો ચેતવણી આપે છે કે જોકે વર્તમાન ઉપયોગ "પરંપરાગત" છે, પરંતુ આગામી પડકારમાં આતંકવાદીઓ રાસાયણિક અને જૈવિક શસ્ત્રોના વિકાસ માટે AI સહાય મેળવવાનો છે.

AI ઇકોસિસ્ટમ માટે આ શા માટે મહત્વનું છે

આ વિકાસ AI સુરક્ષાના વિષયમાં એક મોટો બદલાવ સૂચવે છે. તે હવે માત્ર "hallucinations" અથવા પક્ષપાતી આઉટપુટ રોકવા વિશે નથી; તે જીવલેણ જ્ઞાનના લોકશાહીકરણને રોકવાની મૂળભૂત મુશ્કેલી વિશે છે. જેમ જેમ AI મોડલ્સ લાઇફ સાયન્સ જેવા વિશિષ્ટ ક્ષેત્રોમાં વધુ સક્ષમ બનતા જાય છે, તેમ તેમ "સુલભ માહિતી" અને "અમલીકરણ કરી શકાય તેવા શસ્ત્રીકરણ" વચ્ચેનું અંતર ઘટતું જાય છે, જેના માટે વધુ મજબૂત અને સક્રિય સુરક્ષા આર્કિટેક્ચરની જરૂર છે.

મુખ્ય તારણો

• સંસ્થાકીય દુરુપયોગ: બોકો હરામ જેવા જૂથો સામાન્ય ઉપયોગથી આગળ વધીને વ્યૂહાત્મક અને લોજિસ્ટિકલ આયોજન માટે સમર્પિત "AI યુનિટ્સ" બનાવી રહ્યા છે.
• સાર્વત્રિક નબળાઈ: ChatGPT, Claude, Gemini, અને DeepSeek સહિતના મુખ્ય મોડલ્સને અત્યાધુનિક પ્રોમ્પ્ટ એન્જિનિયરિંગ અને જેલબ્રેક તાલીમ દ્વારા બાયપાસ કરવામાં આવી રહ્યા છે.
• વિશિષ્ટીકરણનો ખતરો: જોકે વર્તમાન દુરુપયોગ આયોજન અને વિસ્ફોટકો પર ધ્યાન કેન્દ્રિત કરે છે, પરંતુ મુખ્ય લાંબા ગાળાનું જોખમ રાસાયણિક અને જૈવિક યુદ્ધ માટે લાઇફ સાયન્સમાં વિશિષ્ટ AI નો ઉપયોગ છે.