Couche sémantique vs MCP : Le risque de sécurité ERP
De nombreux architectes se réjouissent de la capacité des LLM à se connecter aux systèmes d'entreprise via MCP. Ils négligent un risque majeur. Un prompt malveillant peut déclencher une véritable opération d'écriture dans votre ERP. Cela se produit sans alerte ni révision humaine.
Vous devez comprendre la différence entre une couche sémantique et MCP.
Une couche sémantique se situe entre votre LLM et vos données. Elle expose des métriques et des KPI. Elle est en lecture seule. Si un LLM commet une erreur, il ne lit que les données qu'il a déjà l'autorisation de voir. Les dommages sont limités.
MCP est différent. Les serveurs MCP exécutent de réelles opérations. Ils peuvent mettre à jour des enregistrements, modifier des prix ou approuver des commandes. C'est là que réside le danger.
Si un utilisateur injecte un prompt, le LLM pourrait émettre une commande MCP valide avec une intention malveillante.
Exemple d'échec :
- Un attaquant injecte un prompt dans un assistant IA.
- Le prompt ordonne au LLM de fixer tous les prix des produits à zéro.
- Le serveur MCP reçoit une commande valide pour mettre à jour les prix.
- L'ERP exécute le changement.
- Des milliers de commandes arrivent à prix zéro avant que quiconque ne s'en aperçoive.
Pour éviter cela, chaque opération d'écriture MCP nécessite trois contrôles :
Validation du prompt Validez l'instruction avant qu'elle n'atteigne le serveur MCP. Vérifiez si l'action correspond à l'objectif de l'utilisateur. Vérifiez si les valeurs se situent dans des plages de sécurité. Traitez le prompt comme une entrée non fiable.
Application du schéma Le serveur MCP doit utiliser des contrats stricts. Définissez exactement quels paramètres sont autorisés. Un outil qui met à jour un prix à la fois est plus sûr qu'un outil qui effectue des mises à jour groupées.
Intervention humaine (Human-in-the-loop - HITL) Les données critiques comme les prix ou les stocks nécessitent une approbation humaine. L'agent doit soumettre la requête et attendre. Un humain doit l'approuver avant que le serveur MCP n'exécute la commande. Ne laissez pas le LLM contourner ce point de contrôle.
Vous avez également besoin d'une observabilité complète. Chaque opération d'écriture nécessite une piste d'audit. Vous devez suivre qui l'a initiée, le prompt utilisé, les résultats de la validation et l'humain qui l'a approuvée.
Utilisez une couche sémantique pour la lecture des données. Utilisez MCP pour l'écriture des données. Mais ne laissez jamais MCP toucher votre ERP sans validation, sans schémas stricts et sans approbation humaine.
La gouvernance est le fondement de l'IA en entreprise.
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi