बैंक ऑफ इंग्लैंड ने एजेंटिक AI के लिए नियामक ढांचे की समीक्षा की
बैंक ऑफ इंग्लैंड आधिकारिक तौर पर यह आकलन कर रहा है कि क्या एजेंटिक AI के बढ़ते प्रभाव को प्रबंधित करने के लिए वर्तमान वित्तीय नियम पर्याप्त हैं। जैसे-जैसे स्वायत्त (autonomous) सिस्टम साधारण सहायकों से सक्रिय निर्णय लेने वालों में बदल रहे हैं, केंद्रीय बैंकर चेतावनी दे रहे हैं कि मौजूदा निगरानी उन मशीनों के लिए सक्षम नहीं हो सकती है जो बिना किसी प्रत्यक्ष मानवीय हस्तक्षेप के कार्य करती हैं।
सहायता से स्वायत्तता की ओर बदलाव
पिछले एक दशक के अधिकांश समय में, वित्तीय क्षेत्र में AI मुख्य रूप से एक निर्णय-सहायता उपकरण (decision-support tool) के रूप में कार्य करता रहा है—जो डेटा अंतर्दृष्टि प्रदान करता है या मानवीय समीक्षा के लिए विसंगतियों (anomalies) को चिह्नित करता है। हालांकि, "एजेंटिक AI" का उदय एक मौलिक प्रतिमान बदलाव (paradigm shift) का प्रतिनिधित्व करता है। पारंपरिक मशीन लर्निंग मॉडल के विपरीत, एजेंटिक सिस्टम स्वायत्त रूप से योजना बनाने, उपकरणों का उपयोग करने और कार्यों को निष्पादित करके उच्च-स्तरीय लक्ष्यों को प्राप्त करने के लिए डिज़ाइन किए गए हैं।
केंद्रीय बैंकिंग पर यूरोपीय सेंट्रल बैंक फोरम में बोलते हुए, डिप्टी गवर्नर सारा ब्रीडेन ने एक महत्वपूर्ण नियामक अंतराल (regulatory gap) पर प्रकाश डाला। उन्होंने उल्लेख किया कि मौजूदा ढांचे 'human-in-the-loop' निगरानी की धारणा के तहत बनाए गए थे। जब एक AI एजेंट किसी इंसान द्वारा "confirm" क्लिक किए बिना स्वतंत्र रूप से ट्रेड कर सकता है या भुगतान प्रवाह (payment flow) को प्रबंधित कर सकता है, तो पारंपरिक जिम्मेदारी श्रृंखलाएं और जोखिम मूल्यांकन मॉडल अप्रचलित हो जाते हैं।
नियामक जांच के दायरे में महत्वपूर्ण क्षेत्र
बैंक ऑफ इंग्लैंड की समीक्षा केवल एक विभाग तक सीमित नहीं है; यह आधुनिक वित्त के संपूर्ण बुनियादी ढांचे तक फैली हुई है। केंद्रीय बैंक विशेष रूप से इस बात की जांच कर रहा है कि एजेंटिक वर्कफ़्लो चार उच्च-जोखिम वाले क्षेत्रों को कैसे प्रभावित करते हैं:
- भुगतान और निपटान (Payments and Settlements): यह सुनिश्चित करना कि स्वायत्त एजेंट त्रुटिपूर्ण या तीव्र लेनदेन चक्रों के माध्यम से प्रणालीगत तरलता संकट (systemic liquidity crises) पैदा न कर सकें।
- स्वचालित ट्रेडिंग (Automated Trading): मिलीसेकंड की गति से परस्पर क्रिया करने वाले स्वायत्त एजेंटों द्वारा संचालित फ्लैश क्रैश या बाजार हेरफेर के जोखिमों का प्रबंधन करना।
- साइबर सुरक्षा (Cybersecurity): एजेंटों की दोधारी तलवार का समाधान करना, जो नेटवर्क की रक्षा भी कर सकते हैं और दुर्भावनापूर्ण तत्वों द्वारा परिष्कृत, स्वचालित हमले करने के लिए हथियार के रूप में भी इस्तेमाल किए जा सकते हैं।
- परिचालन लचीलापन (Operational Resilience): यह मूल्यांकन करना कि मुख्य बैंकिंग कार्यों में एजेंटिक सॉफ्टवेयर का एकीकरण वित्तीय सेवाओं की स्थिरता और पूर्वानुमेयता को कैसे प्रभावित करता है।
एजेंटिक AI वित्तीय जोखिम को क्यों पुनर्परिभाषित करता है
यह नियामक बदलाव महत्वपूर्ण है क्योंकि यह "model risk" से "agency risk" की ओर संक्रमण का प्रतीक है। अतीत में, नियामक इस बात पर ध्यान केंद्रित करते थे कि क्या किसी मॉडल का आउटपुट पक्षपाती या गलत था। एजेंटिक AI के साथ, चिंता कार्रवाई के परिणामों (consequences of action) की ओर स्थानांतरित हो जाती है।
यदि कोई स्वायत्त एजेंट तार्किक लेकिन अनपेक्षित निर्णयों की एक श्रृंखला लेता है जिससे बाजार में असंतुलन पैदा होता है, तो उत्तरदायित्व निर्धारित करना एक जटिल कानूनी और तकनीकी चुनौती बन जाता है। डेवलपर्स और फिनटेक संस्थापकों के लिए, इसका मतलब है कि "explainability" अब केवल यह समझने के बारे में नहीं है कि किसी मॉडल ने उत्तर क्यों दिया, बल्कि एक स्वायत्त एजेंट के संपूर्ण निर्णय लेने के प्रक्षेपवक्र (decision-making trajectory) का ऑडिट करने में सक्षम होने के बारे में है।
जैसे-जैसे बैंक ऑफ इंग्लैंड अपनी समीक्षा जारी रखेगा, वित्तीय उद्योग को ऐसे भविष्य के लिए तैयार होना चाहिए जहां अनुपालन के लिए न केवल डेटा पारदर्शिता की आवश्यकता होगी, बल्कि यह सुनिश्चित करने के लिए कठोर "guardrail engineering" की भी आवश्यकता होगी कि स्वायत्त एजेंट पूर्व-निर्धारित आर्थिक और कानूनी सीमाओं के भीतर रहें।
मुख्य बातें
- नियामक अंतराल की पहचान: बैंक ऑफ इंग्लैंड चेतावनी देता है कि वर्तमान वित्तीय नियम उन AI एजेंटों के लिए अपर्याप्त हैं जो बिना किसी प्रत्यक्ष मानवीय निर्देश के कार्य करने में सक्षम हैं।
- व्यापक प्रभाव क्षेत्र: समीक्षा चार महत्वपूर्ण स्तंभों पर केंद्रित है: भुगतान, स्वचालित ट्रेडिंग, साइबर सुरक्षा और सामान्य बैंकिंग संचालन।
- जिम्मेदारी में बदलाव: स्वायत्तता के उदय के लिए मॉडल आउटपुट की निगरानी करने के बजाय स्वायत्त निर्णय लेने के प्रक्षेपवक्र और प्रणालीगत एजेंसी जोखिम को नियंत्रित करने की आवश्यकता है।