بانک انگلستان چارچوبهای نظارتی هوش مصنوعی عاملمحور (Agentic AI) را بازبینی میکند
بانک انگلستان رسماً در حال ارزیابی این موضوع است که آیا مقررات مالی فعلی برای مدیریت ظهور هوش مصنوعی عاملمحور (Agentic AI) کافی هستند یا خیر. با حرکت سیستمهای خودمختار از دستیارهای ساده به تصمیمگیرندگان فعال، بانکداران مرکزی هشدار میدهند که نظارتهای موجود ممکن است برای ماشینهایی که بدون مداخله مستقیم انسانی عمل میکنند، مناسب نباشد.
گذار از کمکرسانی به خودمختاری
در بیشتر طول دهه گذشته، هوش مصنوعی در بخش مالی عمدتاً به عنوان یک ابزار پشتیبان تصمیمگیری عمل کرده است—یعنی ارائه بینشهای دادهای یا علامتگذاری ناهنجاریها برای بررسی توسط انسان. با این حال، ظهور «هوش مصنوعی عاملمحور» نشاندهنده یک تغییر پارادایم بنیادین است. برخلاف مدلهای سنتی یادگیری ماشین، سیستمهای عاملمحور برای دنبال کردن اهداف سطح بالا از طریق برنامهریزی خودگردان، استفاده از ابزارها و اجرای اقدامات طراحی شدهاند.
سارا بریدن، معاون رئیس بانک، در مجمع بانک مرکزی اروپا درباره بانکداری مرکزی، به یک شکاف نظارتی حیاتی اشاره کرد. او خاطرنشان کرد که چارچوبهای موجود با این فرض ساخته شدهاند که نظارت انسانی در چرخه (human-in-the-loop) وجود دارد. زمانی که یک عامل هوش مصنوعی میتواند بهطور مستقل یک معامله را انجام دهد یا جریان پرداخت را بدون کلیک کردن انسان روی گزینه «تایید» مدیریت کند، زنجیرههای مسئولیت سنتی و مدلهای ارزیابی ریسک منسوخ میشوند.
بخشهای حیاتی تحت نظارت مقرراتی
بازبینی بانک انگلستان تنها به یک بخش محدود نمیشود؛ بلکه کل زیرساخت امور مالی مدرن را در بر میگیرد. بانک مرکزی بهطور ویژه در حال بررسی این موضوع است که جریانهای کاری عاملمحور چگونه بر چهار حوزه حساس تأثیر میگذارند:
- پرداختها و تسویهها: اطمینان از اینکه عوامل خودمختار نتوانند از طریق چرخههای تراکنشی اشتباه یا بسیار سریع، بحرانهای نقدینگی سیستماتیک ایجاد کنند.
- معاملات خودکار: مدیریت ریسکهای سقوطهای ناگهانی بازار (flash crashes) یا دستکاری بازار که توسط عوامل خودمختار با سرعت میلیثانیه انجام میشود.
- امنیت سایبری: رسیدگی به تیغ دو لبهی عواملی که هم میتوانند از شبکهها دفاع کنند و هم توسط بازیگران مخرب برای انجام حملات پیچیده و خودکار به کار گرفته شوند.
- تابآوری عملیاتی: ارزیابی اینکه چگونه ادغام نرمافزارهای عاملمحور در عملیات اصلی بانکداری بر پایداری و پیشبینیپذیری خدمات مالی تأثیر میگذارد.
چرا هوش مصنوعی عاملمحور ریسک مالی را بازتعریف میکند
این چرخش نظارتی از این جهت حائز اهمیت است که نشاندهنده گذار از «ریسک مدل» به «ریسک عاملیت» (agency risk) است. در گذشته، نهادهای نظارتی بر این موضوع تمرکز داشتند که آیا خروجی یک مدل سوگیرانه یا نادرست است یا خیر. با هوش مصنوعی عاملمحور، نگرانی به پیامدهای عمل تغییر مییابد.
اگر یک عامل خودمختار مجموعهای از تصمیمات منطقی اما ناخواسته اتخاذ کند که منجر به عدم تعادل در بازار شود، تعیین مسئولیت به یک چالش حقوقی و فنی پیچیده تبدیل میشود. برای توسعهدهندگان و بنیانگذاران فینتک، این بدان معناست که «توضیحپذیری» دیگر تنها به معنای درک چرایی ارائه یک پاسخ توسط مدل نیست، بلکه به معنای توانایی بازرسی کل مسیر تصمیمگیری یک عامل خودمختار است.
در حالی که بانک انگلستان به بازبینی خود ادامه میدهد، صنعت مالی باید خود را برای آیندهای آماده کند که در آن رعایت مقررات نه تنها مستلزم شفافیت دادهها، بلکه نیازمند «مهندسی حفاظتی» (guardrail engineering) دقیق است تا اطمینان حاصل شود که عوامل خودمختار در چارچوبهای اقتصادی و قانونی از پیش تعیینشده باقی میمانند.
نکات کلیدی
- شناسایی شکاف نظارتی: بانک انگلستان هشدار میدهد که قوانین مالی فعلی برای عوامل هوش مصنوعی که قادر به عمل بدون دستور مستقیم انسانی هستند، کافی نیستند.
- حوزههای تأثیر گسترده: این بازبینی بر چهار رکن حیاتی تمرکز دارد: پرداختها، معاملات خودکار، امنیت سایبری و عملیات عمومی بانکداری.
- تغییر در مسئولیتپذیری: ظهور خودمختاری مستلزم گذار از نظارت بر خروجیهای مدل به مدیریت مسیرهای تصمیمگیری خودمختار و ریسک عاملیت سیستماتیک است.