बँक ऑफ इंग्लंडकडून 'एजेंटिक एआय'साठी (Agentic AI) नियामक चौकटीचा आढावा

एजेंटिक एआयच्या (agentic AI) वाढत्या वापराचे व्यवस्थापन करण्यासाठी सध्याचे आर्थिक नियम पुरेसे आहेत का, याचे अधिकृतपणे मूल्यांकन बँक ऑफ इंग्लंड करत आहे. जसे स्वायत्त प्रणाली (autonomous systems) साध्या सहाय्यकांपासून सक्रिय निर्णय घेणाऱ्या यंत्रणांकडे वळत आहेत, तसे मध्यवर्ती बँका असा इशारा देत आहेत की, मानवी हस्तक्षेपाशिवाय काम करणाऱ्या यंत्रणांसाठी सध्याची देखरेख पुरेशी नसू शकते.

सहाय्यकाकडून स्वायत्ततेकडे होणारे संक्रमण

गेल्या दशकात, वित्तीय क्षेत्रात एआय (AI) प्रामुख्याने निर्णय-समर्थन साधन (decision-support tool) म्हणून कार्यरत राहिले आहे—जे डेटाचे विश्लेषण करते किंवा मानवी पुनरावलोकनासाठी विसंगती दर्शवते. तथापि, "एजेंटिक एआय"चे (agentic AI) आगमन हे एक मूलभूत वैचारिक परिवर्तन (paradigm shift) दर्शवते. पारंपारिक मशीन लर्निंग मॉडेल्सच्या उलट, एजेंटिक प्रणाली स्वायत्तपणे नियोजन करून, साधने वापरून आणि कृती करून उच्च-स्तरीय उद्दिष्टे साध्य करण्यासाठी डिझाइन केल्या आहेत.

युरोपियन सेंट्रल बँक फोरममध्ये बोलताना, डेप्युटी गव्हर्नर सारा ब्रीडेन यांनी एका महत्त्वपूर्ण नियामक त्रुटीवर प्रकाश टाकला. त्यांनी नमूद केले की, सध्याच्या नियामक चौकटी 'ह्युमन-इन-द-लूप' (human-in-the-loop) देखरेखीच्या गृहितकावर आधारित आहेत. जेव्हा एखादा एआय एजंट मानवाने "confirm" बटण दाबण्याशिवाय स्वतंत्रपणे व्यापार (trade) करू शकतो किंवा पेमेंट प्रवाह व्यवस्थापित करू शकतो, तेव्हा पारंपारिक जबाबदारी साखळी आणि जोखीम मूल्यांकन मॉडेल्स कालबाह्य ठरतात.

नियामक छाननीखालील महत्त्वपूर्ण क्षेत्रे

बँक ऑफ इंग्लंडचा हा आढावा केवळ एका विभागापुरता मर्यादित नाही; तो आधुनिक वित्त व्यवस्थेच्या संपूर्ण पायाभूत सुविधांना व्यापतो. एजेंटिक वर्कफ्लोचा (agentic workflows) चार महत्त्वाच्या क्षेत्रांवर कसा परिणाम होतो, याचे विशेषतः परीक्षण मध्यवर्ती बँक करत आहे:

• पेमेंट्स आणि सेटलमेंट्स (Payments and Settlements): स्वायत्त एजंट्स चुकीच्या किंवा अत्यंत वेगवान व्यवहार चक्रांद्वारे प्रणालीगत तरलता संकट (systemic liquidity crisis) निर्माण करू शकणार नाहीत याची खात्री करणे.
• स्वयंचलित ट्रेडिंग (Automated Trading): मिलिसेकंद वेगाने काम करणाऱ्या स्वायत्त एजंट्समुळे होणारे 'फ्लॅश क्रॅश' किंवा बाजार फेरफार (market manipulation) यांसारख्या जोखमींचे व्यवस्थापन करणे.
• सायबर सुरक्षा (Cybersecurity): नेटवर्कचे संरक्षण करण्यासोबतच, वाईट हेतू असलेल्या व्यक्तींद्वारे अत्याधुनिक, स्वयंचलित हल्ले करण्यासाठी एजंट्सचा वापर केला जाऊ शकतो, या दुधारी तलवारीसारख्या आव्हानाचा सामना करणे.
• ऑपरेशनल रिझिलियन्स (Operational Resilience): बँकिंगच्या मुख्य कामकाजात एजेंटिक सॉफ्टवेअरचा समावेश केल्यामुळे वित्तीय सेवांची स्थिरता आणि अंदाजक्षमता कशी प्रभावित होते, याचे मूल्यांकन करणे.

एजेंटिक एआय वित्तीय जोखीम का पुनर्परिभाषित करते

हा नियामक बदल महत्त्वपूर्ण आहे कारण तो "मॉडेल रिस्क" कडून "एजन्सी रिस्क" कडे होणारे संक्रमण दर्शवतो. पूर्वी, नियामक मॉडेलचे आउटपुट पक्षपाती किंवा चुकीचे आहे का, यावर लक्ष केंद्रित करत असत. एजेंटिक एआयच्या बाबतीत, चिंता कृतींच्या परिणामांकडे वळते.

जर एखाद्या स्वायत्त एजंटने तर्कसंगत परंतु अनपेक्षित निर्णयांची मालिका घेतली आणि त्यामुळे बाजार असंतुलित झाला, तर जबाबदारी निश्चित करणे हे एक जटिल कायदेशीर आणि तांत्रिक आव्हान बनते. डेव्हलपर्स आणि फिनटेक संस्थापकांसाठी, याचा अर्थ असा आहे की "एक्सप्लेनेबिलिटी" (explainability) म्हणजे केवळ मॉडेलने उत्तर का दिले हे समजून घेणे नव्हे, तर स्वायत्त एजंटच्या संपूर्ण निर्णय घेण्याच्या प्रक्रियेचे (decision-making trajectory) ऑडिट करण्यास सक्षम असणे होय.

बँक ऑफ इंग्लंड आपला आढावा सुरूच ठेवत असताना, वित्तीय उद्योगाला अशा भविष्यासाठी तयार राहावे लागेल जिथे अनुपालन (compliance) करण्यासाठी केवळ डेटा पारदर्शकता पुरेशी नसेल, तर स्वायत्त एजंट्स पूर्व-निर्धारित आर्थिक आणि कायदेशीर मर्यादेत राहतील याची खात्री करण्यासाठी कठोर "गार्डरेल इंजिनिअरिंग" (guardrail engineering) आवश्यक असेल.

मुख्य निष्कर्ष

• नियामक त्रुटी आढळली: बँक ऑफ इंग्लंडने इशारा दिला आहे की, मानवी सूचनांशिवाय काम करण्यास सक्षम असलेल्या एआय एजंट्ससाठी सध्याचे आर्थिक नियम अपुरे आहेत.
• व्यापक प्रभाव क्षेत्रे: हा आढावा चार महत्त्वाच्या स्तंभांवर लक्ष केंद्रित करतो: पेमेंट्स, ऑटोमेटेड ट्रेडिंग, सायबर सुरक्षा आणि सामान्य बँकिंग ऑपरेशन्स.
• जबाबदारीतील बदल: स्वायत्ततेच्या वाढत्या वापरामुळे मॉडेलच्या आउटपुटवर लक्ष ठेवण्याऐवजी, स्वायत्त निर्णय घेण्याच्या प्रक्रियेचे आणि प्रणालीगत एजन्सी रिस्कचे (systemic agency risk) नियंत्रण करणे आवश्यक झाले आहे.