𝗟𝗮𝗽𝗶𝘀𝗮𝗻 𝗦𝗲𝗺𝗮𝗻𝘁𝗶𝗸 𝘃𝘀 𝗠𝗖𝗣: 𝗥𝗶𝘀𝗶𝗸𝗼 𝗞𝗲𝘀𝗲𝗹𝗮𝗺𝗮𝘁𝗮𝗻 𝗘𝗥𝗣
Ramai arkitek meraikan keupayaan LLM untuk menyambung ke sistem perusahaan melalui MCP. Mereka terlepas pandang satu risiko besar. Prompt berniat jahat boleh mencetuskan operasi penulisan sebenar dalam ERP anda. Ini berlaku tanpa penggera atau semakan manusia.
Anda mesti memahami perbezaan antara lapisan semantik dan MCP.
Lapisan semantik terletak di antara LLM dan data anda. Ia mendedahkan metrik dan KPI. Ia adalah baca-sahaja. Jika LLM melakukan kesilapan, ia hanya membaca data yang sudah mempunyai kebenaran untuk dilihat. Kerosakannya adalah kecil.
MCP adalah berbeza. Pelayan MCP melaksanakan operasi sebenar. Ia boleh mengemas kini rekod, mengubah harga, atau meluluskan pesanan. Di sinilah bahaya wujud.
Jika pengguna menyuntik prompt, LLM mungkin mengeluarkan arahan MCP yang sah tetapi dengan niat yang buruk.
Contoh kegagalan:
- Seorang penyerang menyuntik prompt ke dalam pembantu AI.
- Prompt tersebut memberitahu LLM untuk menetapkan semua harga produk kepada sifar.
- Pelayan MCP menerima arahan yang sah untuk mengemas kini harga.
- ERP melaksanakan perubahan tersebut.
- Beribu-ribu pesanan tiba pada harga sifar sebelum sesiapa menyedarinya.
Untuk mencegah perkara ini, setiap operasi penulisan MCP memerlukan tiga kawalan:
Pengesahan Prompt Sahkan arahan sebelum ia sampai ke pelayan MCP. Semak jika tindakan tersebut sepadan dengan matlamat pengguna. Semak jika nilai berada dalam julat yang selamat. Anggap prompt sebagai input yang tidak dipercayai.
Penguatkuasaan Skema Pelayan MCP mesti menggunakan kontrak yang ketat. Takrifkan dengan tepat parameter yang dibenarkan. Alat yang mengemas kini satu harga pada satu masa adalah lebih selamat daripada alat yang melakukan kemas kini pukal.
Manusia dalam gelung (Human-in-the-loop - HITL) Data kritikal seperti harga atau inventori memerlukan kelulusan manusia. Ejen mesti menghantar permintaan dan menunggu. Manusia mesti meluluskannya sebelum pelayan MCP melaksanakan arahan tersebut. Jangan biarkan LLM memintas pintu kawalan ini.
Anda juga memerlukan kebolehperhatian (observability) yang penuh. Setiap operasi penulisan memerlukan jejak audit. Anda mesti menjejaki siapa yang memulakannya, prompt yang digunakan, hasil pengesahan, dan manusia yang meluluskannya.
Gunakan lapisan semantik untuk membaca data. Gunakan MCP untuk menulis data. Tetapi jangan sesekali biarkan MCP menyentuh ERP anda tanpa pengesahan, skema yang ketat, dan kelulusan manusia.
Tadbir urus adalah asas kepada AI perusahaan.
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi