બેંક ઓફ ઇંગ્લેન્ડ એજન્ટિક AI માટેના નિયમનકારી માળખાની સમીક્ષા કરી રહી છે

બેંક ઓફ ઇંગ્લેન્ડ સત્તાવાર રીતે આકારણી કરી રહી છે કે એજન્ટિક AI ના વધતા પ્રભાવને સંભાળવા માટે વર્તમાન નાણાકીય નિયમો પૂરતા છે કે નહીં. જેમ જેમ સ્વાયત્ત પ્રણાલીઓ (autonomous systems) સાદા સહાયકોમાંથી સક્રિય નિર્ણય લેનારાઓમાં પરિવર્તિત થઈ રહી છે, તેમ કેન્દ્રીય બેંકરો ચેતવણી આપી રહ્યા છે કે હાલનું નિરીક્ષણ એવા મશીનો માટે સક્ષમ ન પણ હોય જે સીધા માનવીય હસ્તક્ષેપ વિના કાર્ય કરે છે.

સહાયતાથી સ્વાયત્તતા તરફનું પરિવર્તન

છેલ્લા એક દાયકા દરમિયાન, નાણાકીય ક્ષેત્રમાં AI મુખ્યત્વે નિર્ણય-સહાયક સાધન તરીકે કાર્યરત રહ્યું છે—જે ડેટા ઇનસાઇટ્સ પૂરી પાડે છે અથવા માનવીય સમીક્ષા માટે વિસંગતતાઓને સૂચવે છે. જોકે, "એજન્ટિક AI" નો ઉદય એક મૂળભૂત વૈચારિક પરિવર્તન (paradigm shift) દર્શાવે છે. પરંપરાગત મશીન લર્નિંગ મોડલ્સથી વિપરીત, એજન્ટિક સિસ્ટમ્સ સ્વાયત્ત રીતે આયોજન કરીને, સાધનોનો ઉપયોગ કરીને અને કાર્યોનું અમલીકરણ કરીને ઉચ્ચ-સ્તરીય લક્ષ્યો હાંસલ કરવા માટે ડિઝાઇન કરવામાં આવી છે.

સેન્ટ્રલ બેંકિંગ પરના યુરોપિયન સેન્ટ્રલ બેંક ફોરમમાં બોલતા, ડેપ્યુટી ગવર્નર સારા બ્રીડને એક મહત્વપૂર્ણ નિયમનકારી ખામી પર પ્રકાશ પાડ્યો હતો. તેમણે નોંધ્યું હતું કે હાલના માળખા 'હ્યુમન-ઇન-ધ-લૂપ' (human-in-the-loop) નિરીક્ષણની ધારણા હેઠળ બનાવવામાં આવ્યા હતા. જ્યારે એક AI એજન્ટ માનવી દ્વારા "confirm" પર ક્લિક કર્યા વિના સ્વતંત્ર રીતે ટ્રેડ કરી શકે છે અથવા પેમેન્ટ ફ્લોનું સંચાલન કરી શકે છે, ત્યારે પરંપરાગત જવાબદારીની સાંકળો અને જોખમ આકારણીના મોડલ્સ અપ્રસ્તુત બની જાય છે.

નિયમનકારી તપાસ હેઠળના મહત્વપૂર્ણ ક્ષેત્રો

બેંક ઓફ ઇંગ્લેન્ડની સમીક્ષા માત્ર એક વિભાગ પૂરતી મર્યાદિત નથી; તે આધુનિક નાણાકીય માળખાના સમગ્ર ક્ષેત્રમાં ફેલાયેલી છે. સેન્ટ્રલ બેંક ખાસ કરીને એ તપાસી રહી છે કે એજન્ટિક વર્કફ્લો ચાર ઉચ્ચ-જોખમ ધરાવતા ક્ષેત્રોને કેવી રીતે અસર કરે છે:

• પેમેન્ટ્સ અને સેટલમેન્ટ્સ: એ સુનિશ્ચિત કરવું કે સ્વાયત્ત એજન્ટો ભૂલભરેલા અથવા ઝડપી ટ્રાન્ઝેક્શન સાયકલ દ્વારા સિસ્ટમિક લિક્વિડિટી સંકટ ઊભું ન કરી શકે.
• ઓટોમેટેડ ટ્રેડિંગ: મિલિસેકન્ડની ઝડપે કાર્ય કરતા સ્વાયત્ત એજન્ટો દ્વારા થતા ફ્લેશ ક્રેશ અથવા માર્કેટ મેનિપ્યુલેશનના જોખમોનું સંચાલન કરવું.
• સાયબર સિક્યુરિટી: એવા એજન્ટોના બેવડા જોખમનો સામનો કરવો જે નેટવર્કનું રક્ષણ પણ કરી શકે છે અને ખરાબ તત્વો દ્વારા અત્યાધુનિક, સ્વચાલિત હુમલા કરવા માટે હથિયાર તરીકે પણ વાપરી શકાય છે.
• ઓપરેશનલ રેઝિલિયન્સ: એજન્ટિક સોફ્ટવેરનું મુખ્ય બેંકિંગ કામગીરીમાં એકીકરણ નાણાકીય સેવાઓની સ્થિરતા અને અનુમાનક્ષમતાને કેવી રીતે અસર કરે છે તેનું મૂલ્યાંકન કરવું.

એજન્ટિક AI નાણાકીય જોખમને કેમ પુનઃવ્યાખ્યાયિત કરે છે

આ નિયમનકારી પરિવર્તન મહત્વપૂર્ણ છે કારણ કે તે "મોડલ રિસ્ક" થી "એજન્સી રિસ્ક" તરફના સંક્રમણને સૂચવે છે. ભૂતકાળમાં, નિયમનકારોએ મોડલનું આઉટપુટ પક્ષપાતી અથવા અચોક્કસ છે કે નહીં તેના પર ધ્યાન કેન્દ્રિત કર્યું હતું. એજન્ટિક AI સાથે, ચિંતા કાર્યના પરિણામો (consequences of action) તરફ વળે છે.

જો કોઈ સ્વાયત્ત એજન્ટ તાર્કિક પરંતુ અનિચ્છનીય નિર્ણયોની શ્રેણી લે છે જે બજારમાં અસંતુલન તરફ દોરી જાય છે, તો જવાબદારી નક્કી કરવી એ એક જટિલ કાનૂની અને તકનીકી પડકાર બની જાય છે. ડેવલપર્સ અને ફિનટેક સ્થાપકો માટે, આનો અર્થ એ છે કે "એક્સપ્લેનેબિલિટી" (explainability) હવે માત્ર મોડલે શા માટે જવાબ આપ્યો તે સમજવા વિશે નથી, પરંતુ સ્વાયત્ત એજન્ટના સમગ્ર નિર્ણય લેવાની પ્રક્રિયાનું ઓડિટ કરી શકવા વિશે છે.

જેમ જેમ બેંક ઓફ ઇંગ્લેન્ડ તેની સમીક્ષા ચાલુ રાખે છે, તેમ નાણાકીય ઉદ્યોગે એવા ભવિષ્ય માટે તૈયાર થવું જોઈએ જ્યાં પાલન (compliance) માટે માત્ર ડેટા પારદર્શિતા જ નહીં, પરંતુ સ્વાયત્ત એજન્ટો પૂર્વ-નિર્ધારિત આર્થિક અને કાનૂની સીમાઓમાં રહે તે સુનિશ્ચિત કરવા માટે સખત "ગાર્ડરેલ એન્જિનિયરિંગ" (guardrail engineering) ની જરૂર પડશે.

મુખ્ય મુદ્દાઓ

• નિયમનકારી ખામીની ઓળખ: બેંક ઓફ ઇંગ્લેન્ડ ચેતવણી આપે છે કે સીધા માનવીય નિર્દેશ વિના કાર્ય કરવા સક્ષમ AI એજન્ટો માટે વર્તમાન નાણાકીય નિયમો અપૂરતા છે.
• વ્યાપક અસરગ્રસ્ત ક્ષેત્રો: સમીક્ષા ચાર મહત્વપૂર્ણ સ્તંભો પર ધ્યાન કેન્દ્રિત કરે છે: પેમેન્ટ્સ, ઓટોમેટેડ ટ્રેડિંગ, સાયબર સિક્યુરિટી અને સામાન્ય બેંકિંગ કામગીરી.
• જવાબદારીમાં પરિવર્તન: સ્વાયત્તતાના વધતા પ્રભાવને કારણે મોડલના આઉટપુટનું નિરીક્ષણ કરવાને બદલે સ્વાયત્ત નિર્ણય લેવાની પ્રક્રિયાઓ અને સિસ્ટમિક એજન્સી રિસ્કનું સંચાલન કરવું અનિવાર્ય બન્યું છે.