કલ્પના કરો કે તમે એક નાણાકીય સેવાકીય કંપનીમાં સિનિયર એપ્લિકેશન સિક્યુરિટી એન્જિનિયર છો. તમે આંતરિક રીતે વિકસિત ઓથેન્ટિકેશન કોડનો એક ટુકડો (snippet) એક અદ્યતન (frontier) AI મોડેલમાં નાખો છો અને તેને લોજિકલ ખામીઓ ઓળખવા માટે કહો છો. વિશ્લેષણના બદલે, તમને ઉપદેશ મળે છે. મોડેલ એવા આધારે ઇનકાર કરે છે કે તમે આ માહિતીનો ઉપયોગ "સિસ્ટમને એક્સપ્લોઇટ કરવા" (exploit a system) માટે કરી શકો છો. તમે ગુનેગાર નથી. તમે ગુનેગારોને રોકવા માટે રાખવામાં આવેલા વ્યક્તિ છો. છતાં, ગાર્ડરેલ (guardrail) બંને ભૂમિકાઓને અસ્પષ્ટ રીતે સમાન માને છે.
આ પરિસ્થિતિ હવે રૂટિન બની રહી છે. જેમ જેમ મોટા AI લેબ્સ દૂષિત દુરુપયોગને રોકવા માટે સુરક્ષા પ્રોટોકોલ્સને કડક બનાવી રહ્યા છે, તેમ તેમ તેઓ કાયદેસરના સાયબર સિક્યુરિટી વ્યાવસાયિકોના વર્કફ્લો સાથે સીધી અથડાઈ રહ્યા છે. તેનું પરિણામ એક વધતો જતો વિરોધાભાસ છે: સોફ્ટવેર એન્જિનિયરિંગ માટે 'ફોર્સ મલ્ટિપ્લાયર્સ' (force multipliers) તરીકે પ્રમોટ કરવામાં આવતા સાધનો જ તે નિષ્ણાતો પાસેથી રોકી રાખવામાં આવી રહ્યા છે જેઓ મહત્વપૂર્ણ ઇન્ફ્રાસ્ટ્રક્ચરનું રક્ષણ કરે છે.
સલામતી (Safety) અને સુરક્ષા (Security) વચ્ચેનું ઘર્ષણ
મુખ્ય AI ડેવલપર્સ સાયબર સિક્યુરિટી સમુદાયને સંપૂર્ણપણે અવગણી રહ્યા નથી. OpenAI Trusted Access for Cyber નામનો એક પ્રોગ્રામ ચલાવે છે. Anthropic Cyber Verification Program ચલાવે છે. બંને એવી રીતે ડિઝાઇન કરવામાં આવ્યા છે કે પ્રમાણિત વપરાશકર્તાઓ અમુક રિફ્યુઝલ મિકેનિઝમ્સને બાયપાસ કરી શકે જેથી તેઓ કાયદેસરનું સંશોધન કરી શકે. સૈદ્ધાંતિક રીતે, આ દરવાજા સારા પક્ષકારોને ખરાબ પક્ષકારોથી અલગ કરે છે.
વ્યવહારમાં, ઘણા ઓફೆન્સિવ સિક્યુરિટી રિસર્ચર્સ અને નેટવર્ક ડિફેન્ડર્સ તેને અમલદારશાહીના અવરોધો (bureaucratic speed bumps) તરીકે અનુભવે છે. વેરિફિકેશન પ્રક્રિયાઓ અસ્પષ્ટ હોઈ શકે છે. મંજૂરી માટેનો સમયગાળો અનિશ્ચિત હોય છે. સ્વીકૃતિ પછી પણ, સંશોધકો રિપોર્ટ કરે છે કે ઉચ્ચ સ્તરીય એક્સેસ હંમેશા વિવિધ મોડેલ વર્ઝન અથવા કન્વર્સેશન થ્રેડ્સમાં વિશ્વસનીય રીતે કામ કરતું નથી. સક્રિય રીતે એક્સપ્લોઇટ થઈ રહેલી નબળાઈઓને (vulnerabilities) પેચ કરવા માટે દોડતી ટીમો માટે, આ ઘર્ષણ મહત્વનું છે.
વોશિંગ્ટન અને સિલિકોન વેલી વચ્ચેનો તણાવ ત્યારે એક નોંધપાત્ર વળાંક પર પહોંચ્યો જ્યારે યુએસ સરકારે Anthropic ના Mythos અને Fable મોડેલ્સ પર નિકાસ નિયંત્રણો (export controls) લાદ્યા. આ પ્રતિબંધો એવા અહેવાલો પછી આવ્યા હતા કે વ્યક્તિઓએ સાયબર હુમલાઓને સરળ બનાવવા માટે મોડેલ્સના સેફ્ટી ગાર્ડરેલ્સને બાયપાસ કર્યા હતા. નિયમનકારોએ આ સિસ્ટમોને અનન્ય રીતે જોખમી નિકાસ ચીજવસ્તુઓ તરીકે ગણવા માટે ઝડપથી પગલાં લીધા. ત્યારથી આ નિયંત્રણો હટાવી લેવામાં આવ્યા છે અથવા તેમાં ફેરફાર કરવામાં આવ્યો છે, પરંતુ આ ઘટનાએ એક સ્પષ્ટ સંકેત આપ્યો: ઉચ્ચ-ક્ષમતા ધરાવતા AI મોડેલ્સને સામાન્ય હેતુના ટેકનિકલ સાધનોને બદલે સંભવિત 'ડૂમ્સડે ડિવાઇસ' (વિનાશક સાધનો) તરીકે વધુ જોવામાં આવે છે. જે ડિફેન્ડર્સ તેમના પર નિર્ભર છે, તેમના માટે આ ધારણા વધુ કડક તપાસ, ધીમો એક્સેસ અને એવો મૂળભૂત શંકાસ્પદ અભિગમ લાવે છે કે સિક્યુરિટી રિસર્ચ એ માત્ર બીજા નામે કરવામાં આવતું હેકિંગ છે.
શા માટે સંરક્ષણ (Defense) અને હુમલો (Offense) અવિભાજ્ય છે
આ સંઘર્ષનું કેન્દ્ર વહીવટી નથી, પરંતુ ટેકનિકલ છે. નેટવર્કનું સંરક્ષણ કરવા માટે જરૂરી ક્ષમતાઓ તેના પર હુમલો કરવા માટે જરૂરી ક્ષમતાઓ જેવી જ છે.
NCC Group ના ચીફ સાયન્ટિસ્ટ ક્રિસ એન્લી એક સરળ ઉદાહરણ આપે છે: AI એક હથોડો છે. તમે તેનો ઉપયોગ ઘર બનાવવા માટે અથવા બારી તોડવા માટે કરી શકો છો. સાધન પોતે આ તફાવત જાણતું નથી. સાયબર સિક્યુરિટીમાં, આ દ્વૈતતા અનિવાર્ય છે. જ્યારે કોઈ પ્રેક્ટિશનર મોડેલને "આ કોડ સુધારો" (fix this code) તેમ કહે છે, ત્યારે તે વિનંતી એક ડિફેન્સિવ એક્શન ટ્રિગર કરે છે. પરંતુ જે તર્ક પ્રક્રિયા સુધારો (fix) લાવે છે—અસુરક્ષિત ફંક્શન્સને ઓળખવા, અવિશ્વસનીય ઇનપુટને ટ્રેસ કરવા, એક્ઝેક્યુશન ફ્લોને મેપ કરવા—તે અનિવાર્યપણે એ દર્શાવે છે કે નબળાઈનો ઉપયોગ કેવી રીતે કરી શકાય છે. આ સમજૂતી એક્સપ્લોઇટેશન માટે રોડમેપ તરીકે કામ કરે છે.
કારણ કે AI સેફ્ટી ટીમો ઘણીવાર એવા કોઈપણ પ્રોમ્પ્ટને નકારવા માટે મોડેલ્સને તાલીમ આપે છે જેમાં એક્સપ્લોઇટેશનની ગંધ આવતી હોય, તેથી સિસ્ટમ્સ વારંવાર 'ઓવરકરેક્ટ' (અતિશય સુધારો) કરે છે. એક સંશોધક યુઝર ઇનપુટને સેનિટાઇઝ (sanitize) કેવી રીતે કરવું તે પૂછે તો તેને જવાબ મળે છે. એક સંશોધક જે પૂછે છે કે કેવી રીતે એક