સરકારોએ AI મોડલ્સ પર ક્યારે નિયંત્રણ રાખવું જોઈએ?

Anthropic ને તાજેતરમાં એક મોટી સમસ્યાનો સામનો કરવો પડ્યો હતો. યુએસ સરકારે વિદેશી નાગરિકોને તેમના Fable 5 અને Mythos 5 મોડલ્સનો ઉપયોગ કરતા અટકાવવા માટે નિર્દેશ આપ્યો હતો. કાયદાનું પાલન કરવા માટે, Anthropic એ તમામ ગ્રાહકો માટે એક્સેસ બંધ કરી દીધો હતો.

આ એક મોટું પરિવર્તન છે.

Frontier AI હવે માત્ર સોફ્ટવેર નથી રહ્યું. તે વ્યૂહાત્મક ઈન્ફ્રાસ્ટ્રક્ચર બની રહ્યું છે. જ્યારે સોફ્ટવેર ઈન્ફ્રાસ્ટ્રક્ચર બને છે, ત્યારે સરકારો હસ્તક્ષેપ કરે છે.

આપણે ઘણીવાર AI ને ચેટબોટ્સ અથવા ઈમેજ જનરેટર્સ જેવી પ્રોડક્ટ કેટેગરી તરીકે જોઈએ છીએ. પરંતુ વાસ્તવિક પરિવર્તન અંદરખાને થઈ રહ્યું છે. આધુનિક AI સિસ્ટમ્સ કોડ લખી શકે છે, સુરક્ષામાં રહેલી ખામીઓ શોધી શકે છે અને વર્કફ્લો ચલાવી શકે છે. તેઓ અર્ધ-સ્વાયત્ત રીતે કાર્ય કરે છે.

આ જોખમને બદલી નાખે છે. એક સામાન્ય એપનું નિયમન કરવું સરળ છે. સાયબર હુમલાઓને ઓટોમેટ કરતું સિસ્ટમ નેશનલ સિક્યુરિટી ઈન્ફ્રાસ્ટ્રક્ચર જેવું લાગે છે.

નિયમન માટેનો પક્ષ જો કોઈ મોડલ બાયોસિક્યુરિટી જોખમો, છેતરપિંડી અથવા સામૂહિક દેખરેખ (mass surveillance) ને વેગ આપે છે, તો અનિયંત્રિત એક્સેસ જોખમી છે. એન્જિનિયરો પહેલેથી જ રસાયણો, લશ્કરી હાર્ડવેર અને મહત્વપૂર્ણ ઈન્ફ્રાસ્ટ્રક્ચર પર મર્યાદાઓ સ્વીકારે છે. જો AI જોખમોનું સ્વરૂપ બદલી નાખે છે, તો એક્સેસ કંટ્રોલ યોગ્ય છે.

અતિશય નિયંત્રણ વિરુદ્ધનો પક્ષ સરકારી નિયંત્રણ અણઘડ અને રાજકીય હોઈ શકે છે. અચાનક લાદવામાં આવેલા પ્રતિબંધો સંશોધકો, સ્ટાર્ટઅપ્સ અને એન્જિનિયરોને નુકસાન પહોંચાડે છે. તે સ્પર્ધાની સમસ્યા પણ ઊભી કરે છે. જો માત્ર મોટી કંપનીઓ જ જટિલ નિયમોનું પાલન કરી શકે તેમ હોય, તો કેન્દ્રીકરણ (centralization) થશે. કેન્દ્રીકરણથી ઓડિટ ઓછા થાય છે અને સ્થિતિસ્થાપકતા (resilience) ઘટે છે.

ઉકેલ: ક્ષમતા-આધારિત નિયમો આપણે મોડલ્સને હાઈપ અથવા લોકપ્રિયતાના આધારે પ્રતિબંધિત કરવા જોઈએ નહીં. આપણે તેમને તેઓ ખરેખર શું કરી શકે છે તેના આધારે પ્રતિબંધિત કરવા જોઈએ.

આ પ્રશ્નો પૂછો:

  • શું તે સુરક્ષા ખામીઓ શોધી શકે છે અને તેનો ઉપયોગ કરી શકે છે?
  • શું તે બિન-નિષ્ણાતો માટે હાનિકારક કાર્યો કરી શકે છે?
  • શું તે દેખરેખ વગર વિવિધ સિસ્ટમ્સમાં સાધનો (tools) ચલાવી શકે છે?
  • શું તે દબાણ હેઠળ સુરક્ષા ગાર્ડ્સને બાયપાસ કરે છે?

એન્જિનિયરોએ આ ચર્ચાનું નેતૃત્વ કરવું જોઈએ. પોલિસી એ માત્ર અમૂર્ત કાયદો ન હોઈ શકે. તેના માટે મોડલની ક્ષમતા, ટૂલ એક્સેસ અને ડિપ્લોયમેન્ટ સંદર્ભના ટેકનિકલ જ્ઞાનની જરૂર છે.

વાસ્તવિક યુદ્ધક્ષેત્ર: એક્સેસ કંટ્રોલ AI સુરક્ષા માત્ર મોડલ વેઇટ્સ (model weights) વિશે નથી. તે એક્સેસ કંટ્રોલ વિશે છે.

સિસ્ટમનો ઉપયોગ કોણ કરી શકે છે? આ એક ક્લાસિક એન્જિનિયરિંગ સમસ્યા છે. નેચરલ લેંગ્વેજ પ્રોમ્પ્ટ અનેક સિસ્ટમ્સમાં ક્રિયાઓ શરૂ કરી શકે છે. પરમિશન એ ઈન્ફ્રાસ્ટ્રક્ચરનો ભાગ હોવી જોઈએ, માત્ર વિચાર્યા પછી ઉમેરાય તેવી વસ્તુ નહીં. નબળા પ્રોડક્ટ શેલની અંદર શક્તિશાળી મોડલ જોખમી છે.

મારો અભિપ્રાય AI પર પ્રતિબંધ મૂકવો એ ટકી શકે તેવું નથી. નિયમો વિના બધું જ રિલીઝ કરવું એ જવાબદારીપૂર્વકનું નથી.

જ્યારે આ ત્રણ બાબતો મળે ત્યારે હસ્તક્ષેપ યોગ્ય છે:

  • ઉચ્ચ ક્ષમતા
  • દુરુપયોગની ઉચ્ચ સંભાવના
  • ઓછી જવાબદારી (accountability)

ધ્યેય નવીનતા (innovation) ને અટકાવ્યા વિના આપત્તિને રોકવાનો છે.

આપણે તેના માટે નિયમો બનાવ્યા પહેલા જ AI ઈન્ફ્રાસ્ટ્રક્ચર બની રહ્યું છે. સિસ્ટમ ડિઝાઇનમાં તમે જે પસંદગીઓ કરો છો—પરમિશન, લોગિંગ અને માનવીય મંજૂરી—તે વિશ્વ AI નું કેવી રીતે શાસન કરશે તે નક્કી કરશે.

AI નિયંત્રણનું ભવિષ્ય ઈન્ફ્રાસ્ટ્રક્ચરમાં લખવામાં આવશે.

સ્ત્રોત: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi