યુએસ સરકાર વિરુદ્ધ Anthropic: હેક ન કરી શકાય તેવા (unhackable) LLMs માટેની અશક્ય માંગ

Fable 5 મોડેલના રિલીઝ પછી યુએસ સરકાર અને Anthropic વચ્ચે વિખવાદ વધી રહ્યો છે, જેના કારણે AI સુરક્ષા અને નિયમનકારી દેખરેખ અંગે ચર્ચા શરૂ થઈ છે. જેમ જેમ અધિકારીઓ AI લેબ પર એક્ઝિક્યુટિવ ઓર્ડરનું ઉલ્લંઘન કરવાનો આરોપ લગાવી રહ્યા છે, તેમ એક ઊંડો ટેકનિકલ તણાવ પણ સામે આવી રહ્યો છે: "હેક ન કરી શકાય તેવા" (unhackable) ફ્રન્ટિયર મોડેલ્સ માટે સરકારની માંગ.

Fable 5 અને સાયબર નિર્દેશો અંગેનો સંઘર્ષ

આ તણાવ Anthropic ના તેના લેટેસ્ટ મોડેલ, Fable 5 ને રિલીઝ કરવાના નિર્ણયમાંથી ઉદભવ્યો છે, જે તાજેતરના ટ્રમ્પ વહીવટીતંત્રના સાયબર એક્ઝિક્યુટિવ ઓર્ડર દ્વારા નિર્ધારિત સરકારી ક્લિયરિંગહાઉસ સંપૂર્ણ રીતે કાર્યરત થયા પહેલાં કરવામાં આવ્યું હતું. જોકે આ ઓર્ડર સ્વૈચ્છિક દેખરેખ માટે કહેતો હતો, તેમ છતાં સરકારી અધિકારીઓનો દાવો છે કે Anthropic એ નિર્દેશના મૂળ ભાવને અવગણ્યો છે, જેના કારણે કંપની પર "bad actor" હોવાનો આરોપ લાગી રહ્યો છે.

કોમર્સ વિભાગ, CIA અને સાયન્સ એડવાઈઝર માઈકલ ક્રાત્સિયોસ સામે ચાલી રહેલી વર્તમાન ચર્ચાઓ એક મોટું સંવાદ વિભાજન (communication gap) દર્શાવે છે. અધિકારીઓએ ચિંતા વ્યક્ત કરી છે કે Anthic એ "jailbreak" જોખમ હોવા હોવા છતાં આગળ વધવાનું નક્કી કર્યું હતું—જે માહિતી રિપોર્ટ મુજબ Amazon અને અન્ય ટેક ઇન્ડસ્ટ્રી પાર્ટનર્સ દ્વારા આપવામાં આવી હતી. જોકે, આ ઘર્ષણ ટેકનિકલ સુરક્ષા જેટલું જ નિયમનકારી સમય (regulatory timing) વિશે પણ જણાય છે.

ટેકનિકલ વાસ્તવિકતા: શું LLMs ક્યારેય હેક ન કરી શકાય તેવા બની શકે?

સરકારની ટીકાનો મુખ્ય મુદ્દો—કે Anthropic એ સંભવિત jailbreaks ને અવગણીને "ખોટો રસ્તો પસંદ કર્યો"—તે લાર્જ લેંગ્વેજ મોડેલ (LLM) આર્કિટેક્ચરની મૂળભૂત વાસ્તવિકતાને અવગણે છે. AI ઉદ્યોગમાં, સર્વસંમતિ એ છે કે સંપૂર્ણ સુરક્ષા હાલમાં અશક્ય છે. OpenAI એ પણ સ્વીકાર્યું છે કે prompt injection જેવી નબળાઈઓ કદાચ ક્યારેય સંપૂર્ણ રીતે ઉકેલી શકાશે નહીં.

Anthropic ના CEO ડારિયો અમાડોઈએ અગાઉ નોંધ્યું હતું કે જોકે બાયોલોજી અથવા ટેક જેવા સંવેદનશીલ ક્ષેત્રોમાં jailbreak "જીવન અથવા મૃત્યુ" સમાન હોઈ શકે છે, તેમ છતાં ઉદ્યોગ હજુ પણ આ જોખમોને કેવી રીતે ઘટાડવા તે બાબતે સંઘર્ષ કરી રહ્યો છે. આંતરરાષ્ટ્રીય શિપિંગ પહેલાં મોડેલ્સ અનહેકેબલ હોવાની માંગ કરીને, યુએસ સરકાર એક એવો દાખલો બેસાડી રહી હોઈ શકે છે જે નવીનતાને અવરોધે છે, કારણ કે કોઈપણ ફ્રન્ટિયર મોડેલ (GPT-5.5 અથવા Kimi 2.7 સહિત) પાસે સંપૂર્ણ સુરક્ષા કવચ નથી.

ઉદ્યોગનો વિરોધ અને નિકાસ નિયંત્રણની ચર્ચા

વધતા જતા તણાવના પ્રતિસાદમાં, એલેક્સ સ્ટેમોસ અને રેચલ ટોબેક જેવા ઉદ્યોગના અનુભવી નિષ્ણાતો સહિત 100 થી વધુ સાયબર સુરક્ષા નિષ્ણાતો અને એક્ઝિક્યુટિવ્સે ટ્રેડ સેક્રેટરી લટનિક અને નેશનલ સાયબર ડાયરેક્ટર કેયરનક્રોસને ખુલ્લો પત્ર લખ્યો છે. તેઓ Anthropic ના Fable અને Mythos મોડલ્સ પરના નિકાસ નિયંત્રણો હટાવવા માટે આહવાન કરી રહ્યા છે.

નિષ્ણાતો દલીલ કરે છે કે જોકે Fable સોફ્ટવેરની ખામીઓ ઓળખવામાં અત્યંત સક્ષમ છે, પરંતુ તે Opus અથવા Sonnet જેવા અન્ય મોડલ્સની સરખામણીમાં અનન્ય રીતે જોખમી નથી. મહત્વપૂર્ણ રીતે, તેઓ ચેતવણી આપે છે કે કડક નિકાસ નિયંત્રણો વાસ્તવમાં પશ્ચિમી રક્ષકોને નબળા પાડી રહ્યા છે. ટોચના સ્તરના યુએસ મોડલ્સની પહોંચ પર પ્રતિબંધ મૂકીને, સરકાર અજાણતા ચીની open-weight મોડલ્સને ફાયદો કરાવી શકે છે, જેઓ અહેવાલો મુજબ અગ્રણી અમેરિકન frontier models થી માત્ર થોડા મહિના જ પાછળ છે.

મુખ્ય તારણો