Camada Semântica vs MCP: O Risco de Segurança do ERP
Muitos arquitetos celebram a capacidade dos LLMs de se conectarem a sistemas corporativos via MCP. Eles ignoram um risco importante. Um prompt malicioso pode acionar uma operação de escrita real no seu ERP. Isso acontece sem alarmes ou revisão humana.
Você deve entender a diferença entre uma camada semântica e o MCP.
Uma camada semântica fica entre o seu LLM e os seus dados. Ela expõe métricas e KPIs. É apenas de leitura (read-only). Se um LLM cometer um erro, ele apenas lerá dados que já tem permissão para ver. O dano é pequeno.
O MCP é diferente. Servidores MCP executam operações reais. Eles podem atualizar registros, alterar preços ou aprovar pedidos. É aqui que reside o perigo.
Se um usuário injetar um prompt, o LLM pode emitir um comando MCP válido com má intenção.
Exemplo de uma falha:
- Um invasor injeta um prompt em um assistente de IA.
- O prompt instrui o LLM a definir todos os preços dos produtos como zero.
- O servidor MCP recebe um comando válido para atualizar preços.
- O ERP executa a alteração.
- Milhares de pedidos chegam com preço zero antes que alguém perceba.
Para evitar isso, cada operação de escrita no MCP precisa de três controles:
Validação de Prompt Valide a instrução antes que ela chegue ao servidor MCP. Verifique se a ação corresponde ao objetivo do usuário. Verifique se os valores estão dentro de faixas seguras. Trate o prompt como uma entrada não confiável.
Imposição de Esquema (Schema Enforcement) O servidor MCP deve usar contratos estritos. Defina exatamente quais parâmetros são permitidos. Uma ferramenta que atualiza um preço por vez é mais segura do que uma ferramenta que realiza atualizações em massa.
Human-in-the-loop (HITL) Dados críticos, como preços ou estoque, precisam de aprovação humana. O agente deve enviar a solicitação e aguardar. Um humano deve aprová-la antes que o servidor MCP execute o comando. Não permita que o LLM ignore essa etapa.
Você também precisa de observabilidade total. Cada operação de escrita precisa de uma trilha de auditoria. Você deve rastrear quem a iniciou, o prompt utilizado, os resultados da validação e o humano que a aprovou.
Use uma camada semântica para ler dados. Use MCP para escrever dados. Mas nunca deixe o MCP tocar no seu ERP sem validação, esquemas estritos e aprovação humana.
A governança é o alicerce da IA corporativa.
Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi