ธนาคารกลางอังกฤษทบทวนกรอบการกำกับดูแลสำหรับ Agentic AI

ธนาคารกลางอังกฤษ (Bank of England) กำลังประเมินอย่างเป็นทางการว่ากฎระเบียบทางการเงินในปัจจุบันเพียงพอที่จะจัดการกับการเติบโตของ Agentic AI หรือไม่ ในขณะที่ระบบอัตโนมัติกำลังเปลี่ยนผ่านจากผู้ช่วยทั่วไปไปสู่ผู้ตัดสินใจเชิงรุก เหล่าผู้ว่าการธนาคารกลางต่างออกมาเตือนว่าการกำกับดูแลที่มีอยู่ในปัจจุบันอาจไม่พร้อมรับมือกับเครื่องจักรที่สามารถดำเนินการได้โดยไม่ต้องมีการแทรกแซงโดยตรงจากมนุษย์

การเปลี่ยนผ่านจากการเป็นผู้ช่วยสู่ความเป็นอิสระ (Autonomy)

ตลอดทศวรรษที่ผ่านมา AI ในภาคการเงินทำหน้าที่หลักเป็นเครื่องมือสนับสนุนการตัดสินใจ โดยการให้ข้อมูลเชิงลึกหรือการแจ้งเตือนความผิดปกติเพื่อให้มนุษย์ตรวจสอบ อย่างไรก็ตาม การอุบัติขึ้นของ "Agentic AI" ถือเป็นการเปลี่ยนแปลงกระบวนทัศน์ (paradigm shift) ครั้งสำคัญ ซึ่งแตกต่างจากโมเดล Machine Learning แบบดั้งเดิม เพราะระบบ Agentic ถูกออกแบบมาเพื่อบรรลุเป้าหมายระดับสูงผ่านการวางแผน การใช้เครื่องมือ และการดำเนินการต่าง ๆ ด้วยตนเองอย่างเป็นอิสระ

ในการกล่าวสุนทรพจน์ที่งาน European Central Bank Forum ว่าด้วยเรื่องการธนาคารกลาง รองผู้ว่าการ Sarah Breeden ได้เน้นย้ำถึงช่องว่างสำคัญในการกำกับดูแล โดยระบุว่ากรอบการทำงานที่มีอยู่ในปัจจุบันถูกสร้างขึ้นภายใต้สมมติฐานที่ว่าต้องมีมนุษย์คอยควบคุม (human-in-the-loop) แต่เมื่อ AI Agent สามารถดำเนินการซื้อขายหรือจัดการกระแสการชำระเงินได้ด้วยตนเองโดยไม่ต้องรอให้มนุษย์กด "ยืนยัน" (confirm) สายโซ่ความรับผิดชอบและโมเดลการประเมินความเสี่ยงแบบดั้งเดิมก็จะกลายเป็นสิ่งล้าสมัยทันที

ภาคส่วนสำคัญที่อยู่ภายใต้การตรวจสอบด้านกฎระเบียบ

การทบทวนของธนาคารกลางอังกฤษไม่ได้จำกัดอยู่เพียงแผนกใดแผนกหนึ่ง แต่ครอบคลุมโครงสร้างพื้นฐานทั้งหมดของการเงินสมัยใหม่ โดยธนาคารกลางกำลังตรวจสอบอย่างเจาะจงว่าเวิร์กโฟลว์แบบ Agentic ส่งผลกระทบต่อ 4 โดเมนที่มีความเสี่ยงสูงอย่างไร:

• การชำระเงินและการชำระดุล (Payments and Settlements): เพื่อให้มั่นใจว่าเอเจนต์อัตโนมัติจะไม่ก่อให้เกิดวิกฤตสภาพคล่องเชิงระบบ ผ่านวงจรการทำธุรกรรมที่ผิดพลาดหรือรวดเร็วเกินไป
• การซื้อขายอัตโนมัติ (Automated Trading): การจัดการความเสี่ยงจากการเกิด Flash Crash หรือการปั่นตลาดที่ขับเคลื่อนโดยเอเจนต์อัตโนมัติซึ่งมีปฏิสัมพันธ์กันด้วยความเร็วระดับมิลลิวินาที
• ความมั่นคงปลอดภัยทางไซเบอร์ (Cybersecurity): การรับมือกับดาบสองคมของเอเจนต์ที่สามารถใช้ป้องกันเครือข่ายได้ แต่ในขณะเดียวกันก็อาจถูกผู้ไม่หวังดีนำไปใช้เป็นอาวุธเพื่อโจมตีแบบอัตโนมัติที่มีความซับซ้อนสูง
• ความยืดหยุ่นในการดำเนินงาน (Operational Resilience): การประเมินว่าการรวมซอฟต์แวร์แบบ Agentic เข้ากับปฏิบัติการหลักของธนาคาร ส่งผลต่อความเสถียรและความสามารถในการคาดการณ์ของบริการทางการเงินอย่างไร

ทำไม Agentic AI จึงเป็นการนิยามความเสี่ยงทางการเงินใหม่

การปรับเปลี่ยนด้านกฎระเบียบนี้มีความสำคัญอย่างยิ่ง เพราะเป็นการเปลี่ยนผ่านจาก "ความเสี่ยงด้านโมเดล" (model risk) ไปสู่ "ความเสี่ยงด้านการตัดสินใจของเอเจนต์" (agency risk) ในอดีต ผู้กำกับดูแลจะมุ่งเน้นไปที่ว่าผลลัพธ์ของโมเดลมีความลำเอียงหรือคลาดเคลื่อนหรือไม่ แต่สำหรับ Agentic AI ความกังวลได้เปลี่ยนไปอยู่ที่ ผลลัพธ์จากการกระทำ (consequences of action)

หากเอเจนต์อัตโนมัติทำการตัดสินใจที่เป็นเหตุเป็นผลแต่ไม่ได้ตั้งใจ ซึ่งนำไปสู่ความไม่สมดุลของตลาด การระบุความรับผิดชอบจะกลายเป็นความท้าทายทางกฎหมายและทางเทคนิคที่ซับซ้อน สำหรับนักพัฒนาและผู้ก่อตั้ง fintech นี่หมายความว่า "ความสามารถในการอธิบายได้" (explainability) ไม่ใช่แค่การเข้าใจว่าทำไมโมเดลถึงให้คำตอบนั้นออกมาอีกต่อไป แต่คือการสามารถตรวจสอบเส้นทางการตัดสินใจทั้งหมดของเอเจนต์อัตโนมัติได้

ในขณะที่ธนาคารกลางอังกฤษดำเนินการทบทวนต่อไป อุตสาหกรรมการเงินต้องเตรียมพร้อมสำหรับอนาคตที่การปฏิบัติตามกฎระเบียบ (compliance) ไม่ได้ต้องการเพียงแค่ความโปร่งใสของข้อมูลเท่านั้น แต่ยังต้องมีการ "วิศวกรรมแนวป้องกัน" (guardrail engineering) ที่เข้มงวด เพื่อให้มั่นใจว่าเอเจนต์อัตโนมัติจะยังคงอยู่ภายใต้ขอบเขตทางเศรษฐกิจและกฎหมายที่กำหนดไว้

สรุปประเด็นสำคัญ

• พบช่องว่างด้านกฎระเบียบ: ธนาคารกลางอังกฤษเตือนว่ากฎทางการเงินในปัจจุบันไม่เพียงพอสำหรับ AI Agent ที่สามารถดำเนินการได้โดยไม่ต้องมีคำสั่งโดยตรงจากมนุษย์
• ขอบเขตผลกระทบที่กว้างขวาง: การทบทวนมุ่งเน้นไปที่ 4 เสาหลักสำคัญ ได้แก่ การชำระเงิน, การซื้อขายอัตโนมัติ, ความมั่นคงปลอดภัยทางไซเบอร์ และการดำเนินงานทั่วไปของธนาคาร
• การเปลี่ยนผ่านความรับผิดชอบ: การเพิ่มขึ้นของความเป็นอิสระ (autonomy) ทำให้จำเป็นต้องเปลี่ยนจากการตรวจสอบผลลัพธ์ของโมเดล ไปเป็นการกำกับดูแลเส้นทางการตัดสินใจอัตโนมัติและความเสี่ยงเชิงระบบจากการตัดสินใจของเอเจนต์