Bank of England Meninjau Kerangka Kerja Regulasi untuk AI Agentic

Bank of England secara resmi sedang menilai apakah regulasi keuangan saat ini sudah cukup untuk mengelola kebangkitan AI agentic. Seiring sistem otonom beralih dari sekadar asisten sederhana menjadi pengambil keputusan aktif, para bankir sentral memperingatkan bahwa pengawasan yang ada saat ini mungkin tidak siap menghadapi mesin yang bertindak tanpa intervensi manusia secara langsung.

Pergeseran dari Asistensi ke Otonomi

Selama sebagian besar dekade terakhir, AI di sektor keuangan berfungsi terutama sebagai alat pendukung keputusan—menyediakan wawasan data atau menandai anomali untuk ditinjau oleh manusia. Namun, munculnya "AI agentic" mewakili pergeseran paradigma yang mendasar. Berbeda dengan model pembelajaran mesin tradisional, sistem agentic dirancang untuk mengejar tujuan tingkat tinggi dengan merencanakan secara otonom, menggunakan alat, dan mengeksekusi tindakan.

Berbicara di Forum Bank Sentral Eropa mengenai perbankan sentral, Wakil Gubernur Sarah Breeden menyoroti adanya celah regulasi yang kritis. Ia mencatat bahwa kerangka kerja yang ada saat ini dibangun dengan asumsi adanya pengawasan human-in-the-loop (manusia dalam siklus). Ketika agen AI dapat mengeksekusi perdagangan secara mandiri atau mengelola aliran pembayaran tanpa manusia yang mengklik "konfirmasi", rantai tanggung jawab tradisional dan model penilaian risiko menjadi usang.

Sektor-Sektor Kritis di Bawah Pengawasan Regulasi

Peninjauan Bank of England tidak terbatas pada satu departemen saja; peninjauan ini mencakup seluruh infrastruktur keuangan modern. Bank sentral secara khusus memeriksa bagaimana alur kerja agentic berdampak pada empat domain berisiko tinggi:

• Pembayaran dan Penyelesaian: Memastikan bahwa agen otonom tidak dapat memicu krisis likuiditas sistemik melalui siklus transaksi yang salah atau sangat cepat.
• Perdagangan Otomatis: Mengelola risiko flash crash atau manipulasi pasar yang didorong oleh agen otonom yang berinteraksi dalam kecepatan milidetik.
• Keamanan Siber: Menangani pedang bermata dua dari agen yang dapat mempertahankan jaringan sekaligus dipersenjatai oleh aktor jahat untuk melakukan serangan otomatis yang canggih.
• Ketahanan Operasional: Mengevaluasi bagaimana integrasi perangkat lunak agentic ke dalam operasi perbankan inti memengaruhi stabilitas dan prediktabilitas layanan keuangan.

Mengapa AI Agentic Mendefinisikan Ulang Risiko Keuangan

Peralihan regulasi ini sangat signifikan karena menandai transisi dari "risiko model" ke "risiko agensi". Di masa lalu, regulator fokus pada apakah hasil keluaran model bersifat bias atau tidak akurat. Dengan AI agentic, kekhawatiran bergeser ke konsekuensi dari tindakan.

Jika agen otonom membuat serangkaian keputusan yang logis namun tidak disengaja yang menyebabkan ketidakseimbangan pasar, menentukan tanggung jawab hukum menjadi tantangan hukum dan teknis yang kompleks. Bagi pengembang dan pendiri fintech, ini berarti bahwa "explainability" (kemampuan untuk dijelaskan) bukan lagi sekadar tentang memahami mengapa sebuah model memberikan jawaban, melainkan tentang kemampuan untuk mengaudit seluruh lintasan pengambilan keputusan dari seorang agen otonom.

Seiring Bank of England melanjutkan peninjauannya, industri keuangan harus bersiap menghadapi masa depan di mana kepatuhan tidak hanya membutuhkan transparansi data, tetapi juga "rekayasa guardrail" yang ketat untuk memastikan bahwa agen otonom tetap berada dalam batasan ekonomi dan hukum yang telah ditentukan.

Poin-Poin Penting

• Celah Regulasi Teridentifikasi: Bank of England memperingatkan bahwa aturan keuangan saat ini tidak memadai untuk agen AI yang mampu bertindak tanpa instruksi manusia secara langsung.
• Area Dampak yang Luas: Peninjauan ini berfokus pada empat pilar kritis: pembayaran, perdagangan otomatis, keamanan siber, dan operasi perbankan umum.
• Pergeseran Tanggung Jawab: Kebangkitan otonomi memerlukan peralihan dari pemantauan hasil model ke tata kelola lintasan pengambilan keputusan otonom dan risiko agensi sistemik.