272 નિષ્ણાતોએ જોખમો દર્શાવ્યા. કોઈએ તેની પદ્ધતિઓ (mechanisms) દર્શાવી નથી.
MIT ના એક અભ્યાસમાં 272 વૈશ્વિક નિષ્ણાતોનો સર્વે કરવામાં આવ્યો હતો. તેમણે AI ના જોખમોનું નિરીક્ષણ કર્યું. પરિણામો સ્પષ્ટ છે.
24 AI જોખમના ક્ષેત્રોમાંથી 18 માં આગામી પાંચ વર્ષમાં વિનાશક પરિણામો આવવાની ઓછામાં ઓછી 10% શક્યતા છે.
આ સંદર્ભમાં, વિનાશ (catastrophe) નો અર્થ છે:
- દસ લાખથી વધુ મૃત્યુ.
- $100 બિલિયનથી વધુનું નુકસાન.
- લોકશાહી ધોરણોનું પતન.
સૌથી મોટા જોખમોમાં જોખમી ક્ષમતાઓ, સ્પર્ધાત્મક ગતિશીલતા (competitive dynamics), શસ્ત્રો, સત્તાનું કેન્દ્રીકરણ અને ખોટી માહિતીનો સમાવેશ થાય છે.
આ અભ્યાસ જવાબદારીના અંતરને (responsibility gap) ઉજાગર કરે છે. AI જોખમોથી જે લોકો પીડાય છે તે જનતા છે. જે લોકો આ જોખમોને સુધારી શકે છે તે ડેવલપર્સ અને નિયમનકારો (governors) છે. એવિએશન અથવા ન્યુક્લિયર પાવર જેવા અન્ય ઉદ્યોગોમાં, આપણે આ અંતરને પૂરવા માટે ફરજિયાત ધોરણો અને જવાબદારીનો ઉપયોગ કરીએ છીએ. AI માં, આવી પદ્ધતિઓ હજુ અસ્તિત્વમાં નથી.
એક ઊંડું અંતર પણ છે. તે નિષ્ફળતાઓની આગાહી કરતા સંશોધકો અને સિસ્ટમ બનાવતા એન્જિનિયરો વચ્ચે છે.
સંશોધકો પેપર્સ લખે છે. એન્જિનિયરો બ્લોગ પોસ્ટ્સ અને બેન્ચમાર્ક વાંચે છે. તેઓ એક જ ભાષામાં વાત કરતા નથી. એક એન્જિનિયર કામગીરીમાં વધારો (performance boost) જુએ છે, જ્યારે એક સંશોધક વિનાશક જોખમ જુએ છે. તેમની વચ્ચે કોઈ સેતુ (bridge) નથી.
અભ્યાસ જોખમોના નામ આપે છે, પરંતુ તે તેના કારણો બનતી એન્જિનિયરિંગ નિષ્ફળતાઓનું નામ આપતો નથી.
ઉદાહરણ તરીકે:
- Multi-agent જોખમો: શેર કરેલા પ્રોટોકોલ્સના અભાવે સિસ્ટમમાં અથડામણ (collisions) થાય છે.
- સ્પર્ધાત્મક ગતિશીલતા (Competitive dynamics): પ્રોડક્ટ ઝડપથી લોન્ચ કરવાની ઉતાવળમાં ટીમો સ્વતંત્ર ચકાસણી (independent verification) કરવાનું છોડી દે છે. તેના બદલે તેઓ સેલ્ફ-વેરિફિકેશનનો ઉપયોગ કરે છે, જે ઝડપી છે પરંતુ અસુરક્ષિત છે.
- સુરક્ષાની ખામીઓ (Security vulnerabilities): ટીમો કોડ સ્કેન કરવા માટે LLMs નો ઉપયોગ કરે છે, પરંતુ તેઓ કોન્ફિગરેશન અને ઇન્ફ્રાસ્ટ્રક્ચરના જોખમોને ચૂકી જાય છે.
એક સ્થિર સિસ્ટમ માટે પાંચ ભાગોની જરૂર છે:
- એક સાધન (Tool - મોડેલ).
- એક એન્જિન (Engine - જાહેર કરેલ ઈરાદો).
- એક ટ્રાન્સમિશન (Transmission - કોન્ટ્રાક્ટ્સ અને CI/CD).
- એક કંટ્રોલ યુનિટ (Control Unit - એક સ્વતંત્ર ઓરેકલ).
- એક કેસિંગ (Casing - અમલીકરણ કરેલી સીમાઓ).
મોટાભાગની AI સિસ્ટમ્સમાં કંટ્રોલ યુનિટ અને કેસિંગનો અભાવ છે. તેઓ સ્વૈચ્છિક ગાર્ડરેલ્સ (guardrails) પર આધાર રાખે છે. મોડેલ્સ વધુ સારા થતાની સાથે આ ગાર્ડરેલ્સ ઘણીવાર નબળા પડી જાય છે.
ઉદ્યોગ વિનાશની 10% શક્યતાને સ્વીકાર્ય જોખમ તરીકે ગણે છે. તે સ્વીકાર્ય નથી. ડેવલપર્સના સ્વૈચ્છિક પગલાં પૂરતા નથી. સ્પર્ધા સુરક્ષાના પગલાં છોડી દેવા માટે પ્રોત્સાહન આપે છે.
આપણને માત્ર સલાહ નહીં, પણ યાંત્રિક અમલીકરણ (mechanical enforcement) ની જરૂર છે. આગાહી કરેલી નિષ્ફળતાઓ થાય તે પહેલાં આપણે જોખમ સંશોધન અને એન્જિનિયરિંગ પ્રેક્ટિસ વચ્ચેના અંતરને પૂરવાની જરૂર છે.
Source: https://dev.to/bala_paranj_059d338e44e7e/272-experts-named-the-risks-nobody-named-the-mechanisms-4jb
Optional learning community: https://t.me/GyaanSetuAi