ત્રણ શબ્દો
એક સંશોધકે Anthropic ના સૌથી શક્તિશાળી AI મોડેલમાં ત્રણ શબ્દો ટાઈપ કર્યા: fix this code.
નવ્વાણું મિનિટની અંદર, યુનાઇટેડ સ્ટેટ્સ સરકારે તે મોડેલ બંધ કરી દીધું.
આ નબળાઈ એક સાદો પ્રોમ્પ્ટ હતી. તે કોઈ જટિલ હુમલો નહોતો. મોડેલે એવો સાયબર સિક્યુરિટી ડેટા આપ્યો જે તેના સેફ્ટી સિસ્ટમ દ્વારા બ્લોક કરી દેવો જોઈતો હતો.
કોમર્સ વિભાગે મોડેલને રોકવા માટે એક્સપોર્ટ કંટ્રોલ સત્તાનો ઉપયોગ કર્યો. તેમણે Anthropic ને તમામ વિદેશી નાગરિકોને તેનો ઉપયોગ કરતા રોકવાનો આદેશ આપ્યો. આમાં Anthropic ના પોતાના કેટલાક એન્જિનિયરોનો પણ સમાવેશ થતો હતો. Anthropic એ પોતાના સ્ટાફને બાકાત રાખવાનું ટાળવા માટે મોડેલ્સને ઓફલાઇન કરી દીધા.
સત્તાવાર કારણ રાષ્ટ્રીય સુરક્ષા હતું. પરંતુ આ વાર્તામાં એક ઊંડો પડ છે.
Amazon એ આ બાયપાસ શોધી કાઢ્યો. Amazon ના CEO Andy Jassy એ સરકારી અધિકારીઓને આ વિશે જણાવ્યું.
Amazon એ Anthropic માં એક મોટો રોકાણકાર છે. Amazon એ ક્લાઉડ ઇન્ફ્રાસ્ટ્રક્ચર પણ પૂરું પાડે છે જેનો Anthropic ઉપયોગ કરે છે. સૌથી મહત્વનું એ છે કે, Amazon ના પોતાના AI પ્રોડક્ટ્સ Anthropic સાથે સ્પર્ધા કરે છે.
આ શોધ એક સ્પર્ધક પાસેથી સીધી સરકાર સુધી પહોંચી ગઈ. તેણે મોડેલ બનાવનાર કંપનીને બાયપાસ કરી દીધી.
આ ઘટના ત્રણ મહત્વની બાબતો દર્શાવે છે:
બ્રાન્ડ રિસ્ક (Brand risk): Anthropic એ તેની પ્રતિષ્ઠા સુરક્ષા પર બનાવી છે. જ્યારે એક "સુરક્ષિત" મોડેલ નિષ્ફળ જાય છે, ત્યારે રાજકીય કિંમત વધુ હોય છે. બ્રાન્ડ એક જવાબદારી (liability) બની જાય છે.
નવી પાવર સ્ટ્રક્ચર્સ (New power structures): Amazon એક રોકાણકાર, એક પ્રોવાઈડર અને એક સ્પર્ધક તરીકે કામ કરે છે. અન્ય કોઈ ઉદ્યોગમાં આવું સેટઅપ નથી. એક સ્પર્ધકનો એક ફોન કોલ કંપનીને બંધ કરવા માટે કાયદાકીય મશીનરીને સક્રિય કરી શકે છે.
ઝડપી હસ્તક્ષેપ (Rapid intervention): સરકારે સાબિત કર્યું કે તે બે કલાકથી ઓછા સમયમાં AI કંપનીને તેનું મુખ્ય ઉત્પાદન બંધ કરવા માટે મજબૂર કરી શકે છે. તેમાં કોઈ નોટિસ કે અપીલ કરવાની પ્રક્રિયા નહોતી.
AI કંપનીઓ એમ વિચારતી હતી કે તેઓ કાં તો પોતાનું નિયમન જાતે કરશે અથવા સરકારી નીતિનો સામનો કરશે. તેમણે ત્રીજા વિકલ્પ માટે આયોજન કર્યું નહોતું.
કોર્પોરેટ ઇન્ટેલિજન્સ દ્વારા ટ્રિગર થયેલા અચાનક હસ્તક્ષેપ દ્વારા નિયમન માટે તેમણે આયોજન કર્યું નહોતું.
સેફ્ટી રિસર્ચર્સ AI માટે ગાર્ડરેલ્સ (guardrails) ઈચ્છતા હતા. તેઓ એ સમજવામાં નિષ્ફળ રહ્યા કે ખરેખર તેને કોણ બનાવશે.
Source: https://dev.to/thesythesis/the-three-words-3ijl
Optional learning community: https://t.me/GyaanSetuAi