Ngân hàng Trung ương Anh xem xét các khung pháp lý cho Agentic AI

Ngân hàng Trung ương Anh đang chính thức đánh giá liệu các quy định tài chính hiện tại có đủ khả năng để quản lý sự trỗi dậy của Agentic AI hay không. Khi các hệ thống tự hành chuyển từ vai trò trợ lý đơn thuần sang những người ra quyết định chủ động, các thống đốc ngân hàng trung ương đang cảnh báo rằng cơ chế giám sát hiện tại có thể không đủ khả năng đối phó với những cỗ máy hoạt động mà không cần sự can thiệp trực tiếp của con người.

Sự chuyển dịch từ Hỗ trợ sang Tự hành

Trong phần lớn thập kỷ qua, AI trong lĩnh vực tài chính chủ yếu đóng vai trò là công cụ hỗ trợ ra quyết định—cung cấp thông tin chi tiết về dữ liệu hoặc cảnh báo các điểm bất thường để con người xem xét. Tuy nhiên, sự xuất hiện của "Agentic AI" đại diện cho một sự thay đổi mô hình căn bản. Không giống như các mô hình học máy truyền thống, các hệ thống tác nhân (agentic systems) được thiết kế để theo đuổi các mục tiêu cấp cao bằng cách tự lập kế hoạch, sử dụng các công cụ và thực hiện các hành động một cách tự chủ.

Phát biểu tại Diễn đàn Ngân hàng Trung ương Châu Âu về nghiệp vụ ngân hàng trung ương, Phó Thống đốc Sarah Breeden đã nhấn mạnh một lỗ hổng pháp lý quan trọng. Bà lưu ý rằng các khung pháp lý hiện tại được xây dựng dựa trên giả định về sự giám sát của con người trong quy trình (human-in-the-loop). Khi một tác nhân AI có thể độc lập thực hiện một giao dịch hoặc quản lý luồng thanh toán mà không cần con người nhấn nút "xác nhận", các chuỗi trách nhiệm và mô hình đánh giá rủi ro truyền thống sẽ trở nên lỗi thời.

Các lĩnh vực trọng yếu đang bị giám sát chặt chẽ về mặt pháp lý

Cuộc rà soát của Ngân hàng Trung ương Anh không chỉ giới hạn ở một bộ phận duy nhất; nó bao trùm toàn bộ cơ sở hạ tầng của tài chính hiện đại. Ngân hàng trung ương đang xem xét cụ thể cách các quy trình làm việc của Agentic AI tác động đến bốn lĩnh vực có rủi ro cao:

• Thanh toán và Quyết toán: Đảm bảo rằng các tác nhân tự hành không thể gây ra các cuộc khủng hoảng thanh khoản hệ thống thông qua các chu kỳ giao dịch sai sót hoặc diễn ra với tốc độ cực nhanh.
• Giao dịch tự động: Quản lý các rủi ro về sụt giảm giá chớp nhoáng (flash crashes) hoặc thao túng thị trường do các tác nhân tự hành tương tác ở tốc độ mili giây.
• An ninh mạng: Giải quyết con dao hai lưỡi của các tác nhân, vốn vừa có thể bảo vệ mạng lưới, vừa có thể bị các tác nhân xấu vũ khí hóa để thực hiện các cuộc tấn công tự động tinh vi.
• Khả năng phục hồi hoạt động: Đánh giá việc tích hợp phần mềm tác nhân vào các hoạt động ngân hàng cốt lõi ảnh hưởng như thế nào đến sự ổn định và tính dự báo của các dịch vụ tài chính.

Tại sao Agentic AI định nghĩa lại rủi ro tài chính

Bước chuyển mình về mặt pháp lý này rất quan trọng vì nó đánh dấu sự chuyển đổi từ "rủi ro mô hình" (model risk) sang "rủi ro tác nhân" (agency risk). Trước đây, các cơ quan quản lý tập trung vào việc liệu kết quả đầu ra của một mô hình có bị thiên kiến hay không chính xác hay không. Với Agentic AI, mối quan tâm chuyển sang hệ quả của hành động.

Nếu một tác nhân tự hành đưa ra một loạt các quyết định logic nhưng không mong muốn dẫn đến sự mất cân bằng thị trường, việc xác định trách nhiệm pháp lý sẽ trở thành một thách thức phức tạp về cả luật pháp lẫn kỹ thuật. Đối với các nhà phát triển và những người sáng lập fintech, điều này có nghĩa là "tính có thể giải thích được" (explainability) không còn chỉ là hiểu tại sao một mô hình đưa ra câu trả lời, mà là khả năng kiểm chứng toàn bộ lộ trình ra quyết định của một tác nhân tự hành.

Khi Ngân hàng Trung ương Anh tiếp tục cuộc rà soát, ngành tài chính phải chuẩn bị cho một tương lai nơi việc tuân thủ không chỉ đòi hỏi sự minh bạch về dữ liệu, mà còn cần "kỹ thuật rào chắn" (guardrail engineering) nghiêm ngặt để đảm bảo rằng các tác nhân tự hành luôn nằm trong các ranh giới kinh tế và pháp lý đã được xác định trước.

Các điểm chính cần lưu ý

• Xác định lỗ hổng pháp lý: Ngân hàng Trung ương Anh cảnh báo rằng các quy tắc tài chính hiện tại không đủ để đối phó với các tác nhân AI có khả năng hoạt động mà không cần chỉ dẫn trực tiếp từ con người.
• Các lĩnh vực tác động rộng lớn: Cuộc rà soát tập trung vào bốn trụ cột quan trọng: thanh toán, giao dịch tự động, an ninh mạng và các hoạt động ngân hàng nói chung.
• Sự chuyển dịch về trách nhiệm: Sự trỗi dậy của tính tự hành đòi hỏi một sự chuyển dịch từ việc giám sát kết quả đầu ra của mô hình sang việc quản trị các lộ trình ra quyết định tự hành và rủi ro tác nhân mang tính hệ thống.