કેવી રીતે Amazon ના સંશોધને Anthric પર વ્હાઇટ હાઉસના પ્રતિબંધોને ઉત્તેજિત કર્યા

Amazon ના સંશોધકો દ્વારા તાજેતરમાં કરવામાં આવેલી સાયબર સિક્યુરિટીની મોટી સફળતાએ AI ઉદ્યોગમાં ખળભળાટ મચાવ્યો છે, જેના કારણે Anthropic સામે મહત્વપૂર્ણ નિકાસ નિયંત્રણ નિર્દેશો (export control directives) બહાર પાડવામાં આવ્યા છે. Anthropic ના અત્યાધુનિક મોડલ્સ સુધીની પહોંચ પર પ્રતિબંધ મૂકવાના નિર્ણયથી રાષ્ટ્રીય સુરક્ષા, મોડલની નબળાઈઓ અને આર્ટિફિશિયલ ઇન્ટેલિજન્સના રાજકીય પરિદ્રશ્ય અંગે તીવ્ર ચર્ચા શરૂ થઈ છે.

એ Amazon સંશોધન જેણે પ્રતિબંધને ઉત્તેજિત કર્યો

આ વિવાદ Amazon ની સિક્યુરિટી રિસર્ચ ટીમ દ્વારા તૈયાર કરવામાં આવેલા એક ટેકનિકલ પેપર પર કેન્દ્રિત છે. Wall Street Journal ના અહેવાલો અનુસાર, Amazon ના સંશોધકોએ દર્શાવ્યું હતું કે પ્રોમ્પ્ટ્સની એક ચોક્કસ શ્રેણી દ્વારા, Anthropic ના Fable 5 અને Mythos 5 મોડલ્સનો ઉપયોગ સાયબર હુમલાઓને સરળ બનાવવામાં સક્ષમ માહિતી પૂરી પાડવા માટે કરી શકાય છે.

અહેવાલો મુજબ, આ શોધ Amazon ના CEO Andy Jassy દ્વારા સીધી રીતે વ્હાઇટ હાઉસ સાથે શેર કરવામાં આવી હતી. આ ચર્ચાઓ પછી, સરકારે નિકાસ નિયંત્રણ નિર્દેશ બહાર પાડ્યો છે જે અસરકારક રીતે વિદેશી નાગરિકોને આ ચોક્કસ મોડલ્સનો ઉપયોગ કરતા અટકાવે છે. આ પગલાથી Anthropic માટે તાત્કાલિક આંતરિક સંકટ ઊભું થયું છે, કારણ કે કંપનીના ઘણા સંશોધકો વિદેશી મૂળના છે અને હવે તેમને તે જ ટેકનોલોજીનો ઉપયોગ કરતા રોકવામાં આવ્યા છે જે બનાવવામાં તેમણે મદદ કરી હતી.

"Jailbreak" વિવાદ અને મોડલની નબળાઈઓ

Anthropic એ આ ઘટનાના સરકારના ટેકનિકલ વર્ગીકરણ સામે વિરોધ કરવા માટે ઝડપી પગલાં લીધા છે. જ્યારે વહીવટીતંત્ર આ એક્સપ્લોઇટને "jailbreak" તરીકે વર્ણવે છે, ત્યારે Anthropic એવી દલીલ કરે છે કે ઓળખવામાં આવેલી નબળાઈઓ તેમના આર્કિટેક્ચર પૂરતી મર્યાદિત નથી. કંપનીનો દાવો છે કે આ જ સુરક્ષા ખામીઓ અન્ય જાણીતા, સાર્વજનિક રીતે ઉપલબ્ધ મોડલ્સ, જેમ કે GPT 5.5 નો ઉપયોગ કરીને પણ શોધી શકાય છે.

આ ટેકનિકલ વિવાદને સ્વતંત્ર સુરક્ષા નિષ્ણાતોનું સમર્થન મળ્યું છે. LutaSecurity ના સ્થાપક અને CEO Katie Moussouris એ જાહેરમાં જણાવ્યું છે કે Amazon ના પેપરમાં મળેલી વિગતો પરંપરાગત "jailbreak" નથી. ઉદ્યોગ માટે આ તફાવત મહત્વપૂર્ણ છે, કારણ કે તે પ્રશ્ન ઉઠાવે છે કે શું સરકાર ચોક્કસ મોડલની ખામીઓને લક્ષ્ય બનાવી રહી છે અથવા વ્યાપક, કદાચ પ્રતિક્રિયાત્મક, નિયમનકારી પગલાં અમલમાં મૂકી રહી છે.

રાજકીય તણાવ અને AI પરિદ્રશ્ય

આ પ્રતિબંધ શૂન્યાવકાશમાં નથી આવ્યો; તે Anthropic અને વર્તમાન વહીવટીતંત્ર વચ્ચે ઊંડાતા મતભેદોની વચ્ચે આવ્યો છે. Anthropic એ મક્કમ નૈતિક વલણ જાળવી રાખ્યું છે, અને તેના AI મોડલ્સનો ઉપયોગ યુએસ નાગરિકોના સામૂહિક દેખરેખ અથવા ઘાતક સ્વાયત્ત શસ્ત્રોના વિકાસ માટે કરવાની મનાઈ કરી છે.

અહેવાલો અનુસાર, આ નૈતિક સુરક્ષા કવચને કારણે ટ્રમ્પ વહીવટીતંત્ર સાથે ઘર્ષણ થયું છે, જેણે અગાઉ ફેડરલ એજન્સીઓને Anthropic ની AI સેવાઓનો ઉપયોગ કરવાનું બંધ કરવા સૂચના આપી હતી. કોમર્સ વિભાગના પૂર્વ અધિકારી કેટ કોરેન સહિત કેટલાક ઉદ્યોગ નિરીક્ષકો સૂચવે છે કે Anthropic પ્રત્યે વ્હાઇટ હાઉસના હાલના વલણે તાજેતરના નિકાસ પ્રતિબંધોની ઝડપ અને ગંભીરતાને અસર કરી હોઈ શકે છે. જેમ જેમ AI મોડલ્સ વધુ સક્ષમ બની રહ્યા છે, તેમ તેમ સાયબર સુરક્ષા સંશોધન, કોર્પોરેટ નૈતિકતા અને ભૌગોલિક રાજકીય નિયંત્રણનું સંગમ ટેક નિયમનનું નવું મોરચું બની રહ્યું છે.

મુખ્ય તારણો

• સુરક્ષા ટ્રિગર: Amazon ના સંશોધને દર્શાવ્યું કે Fable 5 અને Mythos 5 ને સાયબર હુમલાઓમાં મદદ કરવા માટે પ્રોમ્પ્ટ કરી શકાય છે, જેના કારણે ફેડરલ નિકાસ પ્રતિબંધો લાગુ થયા છે.
• પરોક્ષ નુકસાન: વિદેશી નાગરિકો દ્વારા Anthropic મોડલ્સના ઉપયોગ પરના પ્રતિબંધને કારણે અજાણતા જ કંપનીના ઘણા વિદેશી મૂળના સંશોધકોને તેમના પોતાના સાધનોથી વંચિત રાખવામાં આવ્યા છે.
• તકનીકી અસંમતિ: Anthropic અને સુરક્ષા નિષ્ણાતો દલીલ કરે છે કે આ નબળાઈ કોઈ અનન્ય "jailbreak" નથી પરંતુ GPT 5.5 જેવા અન્ય મોડલ્સમાં જોવા મળતી એક પ્રણાલીગત સમસ્યા છે.