בנק אנגליה בוחן מסגרות רגולטוריות עבור Agentic AI
בנק אנגליה מעריך באופן רשמי האם הרגולציה הפיננסית הנוכחית מספיקה כדי לנהל את עליית ה-Agentic AI. ככל שמערכות אוטונומיות עוברות מתפקיד של עוזרות פשוטות למקבלי החלטות פעילים, בנקאים מרכזיים מזהירים כי הפיקוח הקיים עשוי שלא להיות מותאם למכונות הפועלות ללא התערבות אנושית ישירה.
המעבר מסיוע לאוטונומיה
במשך רוב העשור האחרון, הבינה המלאכותית במגזר הפיננסי תפקדה בעיקר ככלי לתמיכה בקבלת החלטות — אספקת תובנות נתונים או סימון חריגות לבדיקה אנושית. עם זאת, הופעת ה-"Agentic AI" מייצגת שינוי פרדיגמה יסודי. בניגוד למודלים מסורתיים של למידת מכונה, מערכות סוכנותיות (agentic systems) מתוכננות להשיג מטרות ברמה גבוהה באמצעות תכנון אוטונומי, שימוש בכלים וביצוע פעולות.
במהלך ועידת הבנק המרכזי האירופי בנושא בנקאות מרכזית, סגנית המושלת שרה ברידן (Sarah Breeden) הדגישה פער רגולטורי קריטי. היא ציינה כי המסגרות הקיימות נבנו תחת ההנחה של פיקוח אנושי (human-in-the-loop). כאשר סוכן AI יכול לבצע עסקה באופן עצמאי או לנהל זרם תשלומים מבלי שאדם ילחץ על "אישור", שרשראות האחריות ומודלים של הערכת סיכונים המסורתיים הופכים למיושנים.
מגזרים קריטיים תחת פיקוח רגולטורי
הבדיקה של בנק אנגליה אינה מוגבלת למחלקה אחת; היא משתרעת על פני כל התשתית של הפיננסים המודרניים. הבנק המרכזי בוחן באופן ספציפי כיצד תהליכי עבודה סוכנותיים (agentic workflows) משפיעים על ארבעה תחומים בעלי סיכון גבוה:
- תשלומים וסליקה: הבטחה שסוכנים אוטונומיים לא יגרמו למשברי נזילות מערכתיים באמצעות מחזורי עסקאות שגויים או מהירים במיוחד.
- מסחר אוטומטי: ניהול הסיכונים של קריסות פתאומיות (flash crashes) או מניפולציות בשוק המונעות על ידי סוכנים אוטונומיים הפועלים במהירות של מילי-שניות.
- אבטחת סייבר: התמודדות עם החרב הדו-כספית של סוכנים שיכולים הן להגן על רשתות והן לשמש ככלי נשק בידי גורמים עוינים לביצוע תקיפות אוטומטיות ומתוחכמות.
- חוסן תפעולי: הערכת האופן שבו שילוב של תוכנות סוכנותיות בפעולות הבנקאות הליבה משפיע על היציבות והיכולת לחזות את השירותים הפיננסיים.
מדוע Agentic AI מגדיר מחדש סיכון פיננסי
המהפך הרגולטורי הזה הוא משמעותי מכיוון שהוא מסמן את המעבר מ"סיכון מודל" ל"סיכון סוכנות" (agency risk). בעבר, הרגולטורים התמקדו בשאלה האם הפלט של מודל היה מוטה או לא מדויק. עם Agentic AI, החשש עובר להשלכות הפעולה.
אם סוכן אוטונומי מקבל סדרה של החלטות לוגיות אך לא מכוונות המובילות לחוסר איזון בשוק, קביעת האחריות המשפטית הופכת לאתגר משפטי וטכני מורכב. עבור מפתחים ומייסדי פינטק, המשמעות היא ש"יכולת הסבר" (explainability) אינה עוסקת עוד רק בהבנה מדוע מודל נתן תשובה מסוימת, אלא ביכולת לבקר את כל מסלול קבלת ההחלטות של סוכן אוטונומי.
בעוד בנק אנגליה ממשיך בבדיקתו, התעשייה הפיננסית חייבת להיערך לעתיד שבו ציות (compliance) ידרוש לא רק שקיפות נתונים, אלא גם "הנדסת מעקות בטיחות" (guardrail engineering) קפדנית כדי להבטיח שסוכנים אוטונומיים יישארו במסגרת הגבולות הכלכליים והמשפטיים שהוגדרו מראש.
נקודות מפתח
- זיהוי פער רגולטורי: בנק אנגליה מזהיר כי הכללים הפיננסיים הנוכחיים אינם מספיקים עבור סוכני AI המסוגלים לפעול ללא הנחיה אנושית ישירה.
- תחומי השפעה רחבים: הבדיקה מתמקדת בארבעה עמודי תווך קריטיים: תשלומים, מסחר אוטומטי, אבטחת סייבר ופעולות בנקאיות כלליות.
- שינוי באחריות: עליית האוטונומיה מחייבת מעבר מניטור פלטי מודלים לממשל (governing) של מסלולי קבלת החלטות אוטונומיים וסיכון סוכנות מערכתי.