Benki ya Uingereza Yapitia Mifumo ya Kanuni kwa ajili ya Agentic AI

Benki ya Uingereza inafanya tathmini rasmi ikiangalia ikiwa kanuni za sasa za kifedha zinatosha kudhibiti ukuaji wa Agentic AI. Wakati mifumo huru inavyohamia kutoka kuwa wasaidizi wa kawaida hadi kuwa wafanya maamuzi hai, mabenki makuu yanatoa onyo kwamba usimamizi uliopo unaweza usiwe tayari kwa mashine zinazofanya kazi bila kuingiliwa moja kwa moja na binadamu.

Mabadiliko kutoka Usaidizi hadi Uhuru (Autonomy)

Kwa sehemu kubwa ya muongo uliopita, AI katika sekta ya kifedha imefanya kazi zaidi kama chombo cha kusaidia maamuzi—ikitoa ufahamu wa data au kuashiria hitilafu kwa ajili ya ukaguzi wa binadamu. Hata hivyo, kuibuka kwa "Agentic AI" kunawakilisha mabadiliko makubwa ya kimsingi. Tofauti na mifumo ya kawaida ya kujifunza kwa mashine (machine learning), mifumo ya kiwakala (agentic systems) imeundwa ili kutafuta malengo ya ngazi ya juu kwa kupanga peke yake, kutumia zana, na kutekeleza vitendo.

Akizungumza katika Jukwaa la Benki Kuu ya Ulaya kuhusu uendeshaji wa mabenki makuu, Naibu Gavana Sarah Breeden alisisitiza pengo muhimu la kikanuni. Alibainisha kuwa mifumo iliyopo ilijengwa chini ya dhana ya usimamizi wa binadamu (human-in-the-loop). Wakati wakala wa AI anapoweza kutekeleza biashara kwa uhuru au kusimamia mtiririko wa malipo bila binadamu kubofya "thibitisha" (confirm), mnyororo wa uwajibikaji wa jadi na mifumo ya tathmini ya hatari inakuwa haina umuhimu tena.

Sekta Muhimu Zinazofanyiwa Ukaguzi wa Kikanuni

Mapitio ya Benki ya Uingereza hayajizuiliwi kwenye idara moja; yanahusu miundombinu nzima ya fedha za kisasa. Benki kuu inachunguza hasa jinsi mifumo ya kazi ya kiwakala (agentic workflows) inavyoathiri nyanja nne zenye hatari kubwa:

• Malipo na Makubaliano (Payments and Settlements): Kuhakikisha kuwa mawakala huru hawawezi kusababisha migogoro ya ukosefu wa ukwasi (liquidity crises) kupitia mizunguko ya miamala yenye makosa au ya kasi sana.
• Biashara za Kiotomatiki (Automated Trading): Kudhibiti hatari za kuanguka kwa ghafla kwa soko (flash crashes) au ujanja wa soko unaosababishwa na mawakala huru wanaofanya kazi kwa kasi ya milisekunde.
• Usalama wa Mtandao (Cybersecurity): Kushughulikia upande wa pili wa mawakala ambao wanaweza kulinda mitandao lakini pia kutumiwa kama silaha na wahalifu kufanya mashambulizi ya kisasa na ya kiotomatiki.
• Uimara wa Kiutendaji (Operational Resilience): Kutathmini jinsi uunganishaji wa programu za kiwakala katika shughuli kuu za kibenki unavyoathiri utulivu na utabiri wa huduma za kifedha.

Kwa Nini Agentic AI Inabadilisha Tafsiri ya Hatari za Kifedha

Mabadiliko haya ya kikanuni ni muhimu kwa sababu yanaashiria mpito kutoka "hatari ya modeli" (model risk) hadi "hatari ya uwakala" (agency risk). Hapo awali, wasimamizi walizingatia ikiwa matokeo ya modeli yalikuwa na upendeleo au yasiyo sahihi. Kwa Agentic AI, wasiwasi unahamia kwenye matokeo ya vitendo.

Ikiwa wakala huru atafanya mfululizo wa maamuzi ya kimantiki lakini yasiyokusudiwa ambayo husababisha kutokuwa na usawa sokoni, kubainisha uwajibikaji kunakuwa changamoto tata ya kisheria na kiufundi. Kwa watengenezaji na waanzilishi wa fintech, hii inamaanisha kuwa "uwezo wa kuelezea" (explainability) si tu kuelewa kwa nini modeli ilitoa jibu, bali ni uwezo wa kukagua mfululizo mzima wa maamuzi ya wakala huru.

Wakati Benki ya Uingereza ikiendelea na mapitio yake, sekta ya kifedha lazima ijitayarishe kwa mustakabali ambapo uzingatiaji wa sheria unahitaji si tu uwazi wa data, bali pia "uhandisi wa kinga" (guardrail engineering) mkali ili kuhakikisha kuwa mawakala huru wanabaki ndani ya mipaka ya kiuchumi na kisheria iliyowekwa.

Mambo Muhimu ya Kuzingatia

• Pengo la Kikanuni Limebainika: Benki ya Uingereza inaonya kuwa sheria za sasa za kifedha hazitoshi kwa mawakala wa AI wenye uwezo wa kutenda bila maelekezo ya moja kwa moja kutoka kwa binadamu.
• Maeneo Mapana ya Athari: Mapitio yanajikita katika nguzo nne muhimu: malipo, biashara za kiotomatiki, usalama wa mtandao, na shughuli za jumla za kibenki.
• Mabadiliko katika Uwajibikaji: Kuongezeka kwa uhuru (autonomy) kunahitaji mabadiliko kutoka kufuatilia matokeo ya modeli hadi kusimamia mfululizo wa maamuzi ya kiotomatiki na hatari ya uwakala ya kimfumo.