Bank of England Menyemak Semula Rangka Kerja Kawal Selia untuk AI Agentik

Bank of England sedang menilai secara rasmi sama ada peraturan kewangan semasa mencukupi untuk menguruskan kebangkitan AI agentik. Memandangkan sistem autonomi beralih daripada pembantu ringkas kepada pembuat keputusan aktif, pegawai bank pusat memberi amaran bahawa pengawasan sedia ada mungkin tidak dilengkapi untuk mesin yang bertindak tanpa campur tangan manusia secara langsung.

Peralihan daripada Bantuan kepada Autonomi

Sepanjang sebahagian besar dekad yang lalu, AI dalam sektor kewangan berfungsi terutamanya sebagai alat sokongan keputusan—menyediakan cerapan data atau menandakan anomali untuk semakan manusia. Walau bagaimanapun, kemunculan "AI agentik" mewakili anjakan paradigma yang fundamental. Tidak seperti model pembelajaran mesin tradisional, sistem agentik direka untuk mengejar matlamat tahap tinggi dengan merancang secara autonomi, menggunakan alatan, dan melaksanakan tindakan.

Berucap di Forum Bank Pusat Eropah mengenai perbankan pusat, Timbalan Gabenor Sarah Breeden menekankan jurang kawal selia yang kritikal. Beliau menyatakan bahawa rangka kerja sedia ada dibina di bawah andaian pengawasan human-in-the-loop (manusia dalam kitaran). Apabila ejen AI boleh melaksanakan perdagangan secara bebas atau mengurus aliran pembayaran tanpa manusia menekan butang "sahkan", rantaian tanggungjawab tradisional dan model penilaian risiko menjadi usang.

Sektor Kritikal di Bawah Penelitian Kawal Selia

Semakan Bank of England tidak terhad kepada satu jabatan sahaja; ia merangkumi keseluruhan infrastruktur kewangan moden. Bank pusat tersebut sedang meneliti secara khusus bagaimana aliran kerja agentik memberi kesan kepada empat domain berisiko tinggi:

• Pembayaran dan Penyelesaian: Memastikan ejen autonomi tidak mencetuskan krisis kecairan sistemik melalui kitaran transaksi yang salah atau pantas.
• Perdagangan Automatik: Menguruskan risiko kejatuhan pasaran mendadak (flash crashes) atau manipulasi pasaran yang didorong oleh ejen autonomi yang berinteraksi pada kelajuan milisaat.
• Keselamatan Siber: Menangani pedang bermata dua ejen yang boleh mempertahankan rangkaian dan juga boleh dijadikan senjata oleh pihak tidak bertanggungjawab untuk menjalankan serangan automatik yang canggih.
• Ketahanan Operasi: Menilai bagaimana integrasi perisian agentik ke dalam operasi perbankan teras menjejaskan kestabilan dan kebolehramalan perkhidmatan kewangan.

Mengapa AI Agentik Mentakrifkan Semula Risiko Kewangan

Peralihan kawal selia ini adalah signifikan kerana ia menandakan peralihan daripada "risiko model" kepada "risiko agensi". Sebelum ini, pengawal selia memberi tumpuan kepada sama ada output sesuatu model adalah berat sebelah atau tidak tepat. Dengan AI agentik, kebimbangan beralih kepada akibat daripada tindakan.

Jika ejen autonomi membuat siri keputusan yang logik tetapi tidak disengajakan yang membawa kepada ketidakseimbangan pasaran, menentukan liabiliti menjadi cabaran undang-undang dan teknikal yang kompleks. Bagi pembangun dan pengasas fintech, ini bermakna "kebolehjelasan" (explainability) bukan lagi sekadar memahami mengapa sesuatu model memberikan jawapan, tetapi tentang keupayaan untuk mengaudit keseluruhan trajektori pembuatan keputusan ejen autonomi tersebut.

Memandangkan Bank of England meneruskan semakannya, industri kewangan mesti bersedia untuk masa depan di mana pematuhan bukan sahaja memerlukan ketelusan data, tetapi juga "kejuruteraan penghadang" (guardrail engineering) yang ketat untuk memastikan ejen autonomi kekal dalam sempadan ekonomi dan undang-undang yang telah ditetapkan.

Ringkasan Utama

• Jurang Kawal Selia Dikenal Pasti: Bank of England memberi amaran bahawa peraturan kewangan semasa tidak mencukupi untuk ejen AI yang mampu bertindak tanpa arahan manusia secara langsung.
• Kawasan Impak yang Luas: Semakan tersebut memberi tumpuan kepada empat tonggak kritikal: pembayaran, perdagangan automatik, keselamatan siber, dan operasi perbankan am.
• Peralihan Tanggungjawab: Kebangkitan autonomi memerlukan peralihan daripada memantau output model kepada mentadbir trajektori pembuatan keputusan autonomi dan risiko agensi sistemik.