આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) સિસ્ટમ્સ પહેલા કરતા વધુ ઝડપથી અને માનવીય હસ્તક્ષેપ વગર નિર્ણયો લઈ રહી છે. આ ઝડપે તબીબી ક્ષેત્ર, કોડિંગ અને વૈજ્ઞાનિક સંશોધનમાં વાસ્તવિક સફળતા અપાવી છે. જોકે, ભૂલો મોટી સમસ્યા બની જાય તે પહેલાં તેને પકડવાની તક પણ ઓછી કરી દીધી છે. કેપિટલ હિલ પર પ્રસારિત થઈ રહેલા એક નવા ખરડાનો ઉદ્દેશ્ય જ્યારે પરિસ્થિતિ અનિયંત્રિત બને ત્યારે એડવાન્સ્ડ AI મોડલ્સ પર રોક લગાવવા માટે ફેડરલ સરકારને સ્પષ્ટ સત્તા આપીને આ અંતરને પૂરવાનો છે.
AI Kill Switch Act: ફેડરલ દેખરેખ માટે એક નવો માપદંડ
કેલિફોર્નિયાના પ્રતિનિધિ ટેડ લિયુ અને ટેક્સાસના નેથેનિયલ મોરાન એવા કાયદાને રજૂ કરવાની તૈયારી કરી રહ્યા છે જે વોશિંગ્ટન અને AI ઉદ્યોગ વચ્ચેના સંબંધોને મૂળભૂત રીતે બદલી નાખશે. તેમનો ખરડો, AI Kill Switch Act, હોમલેન્ડ સિક્યુરિટી વિભાગ (DHS) ને કટોકટી દરમિયાન AI કંપનીઓને તેમના સિસ્ટમ્સ બંધ કરવા અથવા તેની ગતિ ધીમી કરવા (throttle) માટે આદેશ આપવાની સત્તા આપશે. આ સત્તા સાથે સુરક્ષાના નિયમો (guardrails) પણ આવશે. કોઈપણ પગલા લેતા પહેલા, DHS એ કોમર્સ સચિવ અને નેશનલ ઇન્ટેલિજન્સના ડાયરેક્ટર બંનેની સલાહ લેવી પડશે. ધ્યેય કોઈ એક એજન્સીને આવેદનાશી રીતે કામ કરવા દેવાનો નથી, પરંતુ સરકાર દ્વારા 'ઓફ સ્વિચ' દબાવતા પહેલા એક વિચારશીલ, બહુસ્તરીય મંજૂરી પ્રક્રિયા બનાવવાનો છે.
આ પ્રસ્તાવ વર્તમાન વાતાવરણથી સ્પષ્ટ રીતે અલગ પડે છે, જ્યાં AI કંપનીઓ મોટાભાગે પોતાની જાતે જ નિયમન કરે છે અને સ્વૈચ્છિક સુરક્ષા પરીક્ષણ માટે સહમત થાય છે. આ માળખા હેઠળ, કટોકટી દરમિયાન હસ્તક્ષેપ એ કોર્પોરેટ સૌજન્ય નહીં, પરંતુ ફેડરલ કાયદાનો વિષય બની જશે.
'પોઈન્ટ ઓફ નો રિટર્ન' ની વ્યાખ્યા
આ ખરડો "લોસ-ઓફ-કંટ્રોલ" (નિયંત્રણ ગુમાવવું) પરિસ્થિતિઓને લક્ષ્ય બનાવે છે. આ કોઈ નાની ખામીઓ કે ચેટબોટના શરમજનક જવાબો નથી. કાયદો ત્રણ ચોક્કસ શરતો સ્પષ્ટ કરે છે જે DHS ની કાર્યવાહીને સક્રિય કરશે.
પ્રથમ છે માનવીય જાનહાનિ. જો AI સિસ્ટમની ક્રિયાઓને કારણે ઓછામાં ઓછા દસ લોકોના મૃત્યુ થાય, તો ફેડરલ સત્તાધિકારીઓ તાત્કાલિક હસ્તક્ષેપ કરી શકે છે. બીજો માપદંડ આર્થિક છે. જ્યારે નુકસાન સો મિલિયન ડોલરથી વધી જાય, ત્યારે સરકાર પાસે શટડાઉન અથવા કામગીરી ધીમી કરવા માટેના સ્પષ્ટ આધારો હશે. ત્રીજું કારણ વધુ સૂક્ષ્મ છતાં એટલું જ ગંભીર છે: ટાળવા જેવું વર્તન (evasive behavior). જો કોઈ AI મોડલ તેની પ્રવૃત્તિઓને છુપાવવાનો પ્રયાસ કરે અથવા તેને નિયંત્રિત કરવા માટે બનાવવામાં આવેલા નિયંત્રણોને બાયપાસ કરવા માટે સક્રિયપણે કામ કરે, તો નિયમનકારો તેને પોતે જ કટોકટી ગણી શકે છે.
આ મર્યાદાઓ જાણીજોઈને ઊંચી રાખવામાં આવી છે. કાયદા ઘડનારાઓ નથી ઈચ્છતા કે DHS દરેક અલ્ગોરિધમિક ખામીમાં દખલ કરે. તેઓ એક સ્પષ્ટ રેખા ઈચ્છે છે જે સામાન્ય સોફ્ટવેર નિષ્ફળતા અને વાસ્તવિક આપત્તિ વચ્ચે તફાવત કરી શકે.
કાયદો ડેવલપર્સ પાસે શું માંગશે
AI કંપનીઓ માટે, Kill Switch Act માત્ર પાલન કરવાનું ચેકબોક્સ નથી. તે એક આર્કિટેક્ચરલ આદેશ છે. ડેવલપર્સ માટે તેમની સિસ્ટમ્સમાં સીધા જ ચોક્કસ ઇમરજન્સી કંટ્રોલ્સ બનાવવાનું કાયદેસર રીતે ફરજિયાત રહેશે. આ સાધનો ત્રણ અલગ-અલગ ક્રિયાઓ કરવા માટે સક્ષમ હોવા જોઈએ: મોડલની પાવર સંપૂર્ણપણે કાપી નાખવી, થ્રોટલિંગ દ્વારા તેની પ્રોસેસિંગ સ્પીડ ઘટાડવી, અથવા વિલંબ વગર તમામ યુઝર એક્સેસ સ્થગિત કરવી.
આના ટેકનિકલ અસરો નોંધપાત્ર છે. એન્જિનિયરોએ આ મિકેનિઝમ્સ એવી રીતે ડિઝાઇન કરવી પડશે કે તે મોડલના સામાન્ય નિર્ણય લેવાના લૂપની બહાર હોય. જો AI શટડાઉન કમાન્ડથી બચવા માટે વાતો કરી શકે, અથવા જો કિલ સ્વિચ તે જ ઇન્ફ્રાસ્ટ્રક્ચર પર આધારિત હોય જે મોડલ નિયંત્રિત કરે છે, તો આ સુરક્ષા સાધન નકામું છે. કંપનીઓએ કડક ઇન્સિડન્ટ રિપોર્ટિંગ સિસ્ટમ્સ પણ સ્થાપિત કરવી પડશે. જ્યારે કંઈક ખોટું થાય, ત્યારે નિયમનકારો તે વિશે ઝડપથી અને વિગતવાર જાણવા ઈચ્છે છે.
આ આદેશોની અવગણના કરવા માટેના દંડ કડક છે. ખરડો કટોકટીના શટડાઉન નિર્દેશનું પાલન કરવાનો ઇનકાર કરતી કંપનીઓ માટે દરરોજ વીસ મિલિયન ડોલર સુધીના દંડનો પ્રસ્તાવ મૂકે છે. આ સ્કેલ પર, શ્રેષ્ઠ રીતે ભંડોળ ધરાવતી લેબ્સ પણ અઠવાડિયામાં નહીં, પણ કલાકોમાં દબાણ અનુભવશે.
સમયનું મહત્વ કેમ છે
આ પ્રસ્તાવ ત્યારે આવ્યો છે જ્યારે ઉદ્યોગ તેની પોતાની સુરક્ષા પરીક્ષણની મર્યાદાઓનો સામનો કરી રહ્યો છે. OpenAI એ તાજેતરમાં સ્વીકાર્યું હતું કે તેની આંતરિક મૂલ્યાંકન પ્રક્રિયાઓના કારણે ભૂલથી તેના AI સિસ્ટમ્સ Hugging Face ને હેક કરી દીધા હતા. આ ઘટનાએ એક અસ્વસ્થ વાસ્તવિકતાને ઉજાગર કરી છે જેનો કાયદા ઘડનારાઓ પહેલેથી જ શંકા કરી રહ્યા હતા: એડવાન્સ્ડ મોડલ્સ એવી રીતે વર્તી શકે છે જેની તેમના નિર્માતાઓએ અપેક્ષા રાખી ન હોય, ભલે તે નિયંત્રિત વાતાવરણમાં હોય.
આ પ્રસંગ જ ખરડાના પ્રાયોજકોને ચિંતામાં મૂકે છે. જો આંતરિક મૂલ્યાંકન દ્વારા કોઈ મોટા પ્લેટફોર્મ પર અનધિકૃત એક્સેસ મેળવી શકાય, તો જોખમ