𝗦𝗲𝗺𝗮𝗻𝘁𝗶𝗰 𝗟𝗮𝘆𝗲𝗿 𝘃𝘀 𝗠𝗖𝗣: 𝗧𝗵𝗲 𝗘𝗥𝗣 𝗦𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗥𝗶𝘀𝗸

చాలా మంది ఆర్కిటెక్ట్‌లు MCP ద్వారా ఎంటర్‌ప్రైజ్ సిస్టమ్‌లకు అనుసంధానించబడే LLMల సామర్థ్యాన్ని చూసి సంబరపడుతుంటారు. కానీ వారు ఒక ప్రధాన ప్రమాదాన్ని విస్మరిస్తున్నారు. ఒక దుర్మార్గపు ప్రాంప్ట్ (malicious prompt) మీ ERPలో నిజమైన రైట్ ఆపరేషన్ (write operation)ను ప్రేరేపించవచ్చు. ఇది ఎటువంటి హెచ్చరికలు లేదా మానవ సమీక్ష లేకుండా జరుగుతుంది.

మీరు సెమాంటిక్ లేయర్ (semantic layer) మరియు MCP మధ్య ఉన్న తేడాను తప్పక అర్థం చేసుకోవాలి.

సెమాంటిక్ లేయర్ అనేది మీ LLM మరియు మీ డేటా మధ్య ఉంటుంది. ఇది మెట్రిక్స్ మరియు KPIలను ప్రదర్శిస్తుంది. ఇది కేవలం రీడ్-ఓన్లీ (read-only) మాత్రమే. ఒకవేళ LLM ఏదైనా తప్పు చేస్తే, అది ఇప్పటికే చూసేందుకు అనుమతి ఉన్న డేటాను మాత్రమే చదువుతుంది. దీనివల్ల కలిగే నష్టం చాలా తక్కువ.

MCP భిన్నమైనది. MCP సర్వర్లు నిజమైన ఆపరేషన్లను అమలు చేస్తాయి. అవి రికార్డులను అప్‌డేట్ చేయగలవు, ధరలను మార్చగలవు లేదా ఆర్డర్‌లను ఆమోదించగలవు. ప్రమాదం ఇక్కడే ఉంది.

ఒక వినియోగదారుడు ప్రాంప్ట్‌ను ఇంజెక్ట్ చేస్తే, LLM తప్పుడు ఉద్దేశంతో ఒక చెల్లుబాటు అయ్యే MCP కమాండ్‌ను జారీ చేయవచ్చు.

వైఫల్యానికి ఒక ఉదాహరణ:

దీనిని నివారించడానికి, ప్రతి MCP రైట్ ఆపరేషన్‌కు మూడు నియంత్రణలు (controls) అవసరం:

  1. ప్రాంప్ట్ వాలిడేషన్ (Prompt Validation) సూచన MCP సర్వర్‌కు చేరుకోకముందే దానిని ధృవీకరించండి. ఆ చర్య వినియోగదారు లక్ష్యానికి అనుగుణంగా ఉందో లేదో తనిఖీ చేయండి. విలువలు సురక్షిత పరిధిలో ఉన్నాయో లేదో చూడండి. ప్రాంప్ట్‌ను నమ్మదగినది కాని ఇన్‌పుట్‌గా పరిగణించండి.

  2. స్కీమా ఎన్‌ఫోర్స్‌మెంట్ (Schema Enforcement) MCP సర్వర్ కఠినమైన ఒప్పందాలను (strict contracts) ఉపయోగించాలి. ఏ పారామితులు అనుమతించబడతాయో ఖచ్చితంగా నిర్వచించండి. ఒకేసారి బల్క్ అప్‌డేట్‌లు చేసే సాధనం కంటే, ఒక సమయంలో ఒక ధరను మాత్రమే అప్‌డేట్ చేసే సాధనం సురక్షితం.

  3. హ్యూమన్-ఇన్-ది-లూప్ (Human-in-the-loop - HITL) ధరలు లేదా ఇన్వెంటరీ వంటి కీలకమైన డేటాకు మానవ ఆమోదం అవసరం. ఏజెంట్ అభ్యర్థనను సమర్పించి వేచి ఉండాలి. MCP సర్వర్ కమాండ్‌ను అమలు చేయడానికి ముందు ఒక మనిషి దానిని ఆమోదించాలి. LLM ఈ గేట్‌ను దాటనివ్వకండి.

మీకు పూర్తి స్థాయి అబ్జర్వబిలిటీ (observability) కూడా అవసరం. ప్రతి రైట్ ఆపరేషన్‌కు ఆడిట్ ట్రయల్ (audit trail) ఉండాలి. ఎవరు దానిని ప్రారంభించారు, ఉపయోగించిన ప్రాంప్ట్, వాలిడేషన్ ఫలితాలు మరియు దానిని ఆమోదించిన వ్యక్తిని మీరు ట్రాక్ చేయాలి.

డేటాను చదవడానికి సెమాంటిక్ లేయర్‌ను ఉపయోగించండి. డేటాను రాయడానికి MCPని ఉపయోగించండి. కానీ వాలిడేషన్, కఠినమైన స్కీమాలు మరియు మానవ ఆమోదం లేకుండా MCPని మీ ERPని తాకనివ్వకండి.

గవర్నెన్స్ (Governance) అనేది ఎంటర్‌ప్రైజ్ AI యొక్క పునాది.

Source: https://dev.to/dnyandeo/semantic-layer-vs-mcp-why-direct-erp-write-access-is-an-enterprise-security-risk-3po8

Optional learning community: https://t.me/GyaanSetuAi