𝗦𝗲𝗺𝗮𝗻𝘁𝗶𝗰 𝗟𝗮𝘆𝗲𝗿 𝘃𝘀 𝗠𝗖𝗣: 𝗥𝗶𝘀𝗶𝗸𝗼 𝗞𝗲𝗮𝗺𝗮𝗻𝗮𝗻 𝗘𝗥𝗣
Banyak arsitek merayakan kemampuan LLM untuk terhubung ke sistem perusahaan melalui MCP. Namun, mereka mengabaikan risiko besar. Sebuah prompt berbahaya dapat memicu operasi penulisan (write operation) nyata di ERP Anda. Hal ini terjadi tanpa alarm atau peninjauan manusia.
Anda harus memahami perbedaan antara semantic layer dan MCP.
Semantic layer berada di antara LLM dan data Anda. Ia mengekspos metrik dan KPI. Sifatnya hanya baca (read-only). Jika LLM melakukan kesalahan, ia hanya akan membaca data yang memang sudah memiliki izin untuk dilihat. Kerusakannya kecil.
MCP berbeda. Server MCP mengeksekusi operasi nyata. Mereka dapat memperbarui catatan, mengubah harga, atau menyetujui pesanan. Di sinilah letak bahayanya.
Jika seorang pengguna menyuntikkan (inject) prompt, LLM mungkin mengeluarkan perintah MCP yang valid namun dengan niat buruk.
Contoh kegagalan:
- Seorang penyerang menyuntikkan prompt ke dalam asisten AI.
- Prompt tersebut memerintahkan LLM untuk mengatur semua harga produk menjadi nol.
- Server MCP menerima perintah valid untuk memperbarui harga.
- ERP mengeksekusi perubahan tersebut.
- Ribuan pesanan masuk dengan harga nol sebelum ada yang menyadarinya.
Untuk mencegah hal ini, setiap operasi penulisan MCP memerlukan tiga kontrol:
Validasi Prompt Validasi instruksi sebelum mencapai server MCP. Periksa apakah tindakan tersebut sesuai dengan tujuan pengguna. Periksa apakah nilai-nilainya berada dalam rentang yang aman. Perlakukan prompt sebagai input yang tidak tepercaya.
Penegakan Skema (Schema Enforcement) Server MCP harus menggunakan kontrak yang ketat. Tentukan secara tepat parameter apa saja yang diizinkan. Alat yang memperbarui satu harga dalam satu waktu lebih aman daripada alat yang melakukan pembaruan massal (bulk updates).
Human-in-the-loop (HITL) Data kritis seperti harga atau inventaris memerlukan persetujuan manusia. Agen harus mengirimkan permintaan dan menunggu. Seorang manusia harus menyetujuinya sebelum server MCP mengeksekusi perintah tersebut. Jangan biarkan LLM melewati gerbang ini.
Anda juga memerlukan observabilitas penuh. Setiap operasi penulisan memerlukan jejak audit (audit trail). Anda harus melacak siapa yang memulainya, prompt yang digunakan, hasil validasi, dan manusia yang menyetujuinya.
Gunakan semantic layer untuk membaca data. Gunakan MCP untuk menulis data. Namun, jangan pernah biarkan MCP menyentuh ERP Anda tanpa validasi, skema yang ketat, dan persetujuan manusia.
Tata kelola (Governance) adalah fondasi dari AI perusahaan.
Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi