Semantic Layer dhidi ya MCP: Hatari ya Usalama wa ERP
Wasanifu wengi wanasherehekea uwezo wa LLMs kuunganishwa na mifumo ya kampuni kupitia MCP. Wanapuuza hatari kubwa. Prompt yenye nia mbaya inaweza kusababisha operesheni halisi ya kuandika (write operation) kwenye ERP yako. Hii hutokea bila kengele za tahadhari au ukaguzi wa binadamu.
Ni lazima uelewe tofauti kati ya semantic layer na MCP.
Semantic layer hukaa kati ya LLM yako na data yako. Inaonyesha vipimo (metrics) na KPI. Ni ya kusoma tu (read-only). Ikiwa LLM itafanya makosa, itasoma tu data ambayo tayari ina ruhusa ya kuiona. Uharibifu unakuwa mdogo.
MCP ni tofauti. Vichwa vya MCP (MCP servers) hutekeleza operesheni halisi. Zinaweza kusasisha rekodi, kubadilisha bei, au kuidhinisha oda. Hapa ndipo hatari ilipo.
Ikiwa mtumiaji ataingiza prompt, LLM inaweza kutoa amri halali ya MCP ikiwa na nia mbaya.
Mfano wa kufeli:
- Mshambuliaji anaingiza prompt kwenye msaidizi wa AI.
- Prompt hiyo inaambia LLM iweke bei zote za bidhaa kuwa sifuri.
- MCP server inapokea amri halali ya kusasisha bei.
- ERP inatekeleza mabadiliko hayo.
- Maelfu ya oda zinaingia kwa bei ya sifuri kabla ya mtu yeyote kugundua.
Ili kuzuia hili, kila operesheni ya kuandika ya MCP inahitaji udhibiti mitatu:
Uhakiki wa Prompt (Prompt Validation) Hakiki maelekezo kabla hayajafika kwenye MCP server. Angalia ikiwa kitendo kinaendana na lengo la mtumiaji. Angalia ikiwa thamani ziko katika viwango salama. Chukulia prompt hiyo kama ingizo lisiloaminika.
Usimamizi wa Schema (Schema Enforcement) MCP server lazima itumie mikataba madhubuti. Bainisha kwa usahihi ni vigezo (parameters) gani vinaruhusiwa. Chombo kinachosasisha bei moja kwa wakati ni salama zaidi kuliko chombo kinachofanya usasishaji wa pamoja (bulk updates).
Binadamu katika mchakato (Human-in-the-loop - HITL) Data muhimu kama bei au hesabu ya bidhaa (inventory) inahitaji idhini ya binadamu. Wakala (agent) lazima awasilishe ombi na kusubiri. Binadamu lazima aidhinishe kabla ya MCP server kutekeleza amri hiyo. Usiruhusu LLM ipite hatua hii ya ukaguzi.
Pia unahitaji uwezo kamili wa ufuatiliaji (observability). Kila operesheni ya kuandika inahitaji kumbukumbu ya ukaguzi (audit trail). Lazima ufuatilie nani aliianza, prompt iliyotumika, matokeo ya uhakiki, na binadamu aliyependekeza/aidhinisha.
Tumia semantic layer kwa kusoma data. Tumia MCP kwa kuandika data. Lakini usiruhusu kamwe MCP iguse ERP yako bila uhakiki, schema madhubuti, na idhini ya binadamu.
Utawala (Governance) ndio msingi wa AI ya kampuni.
Jumuiya ya kujifunzia ya hiari: https://t.me/GyaanSetuAi