మీ AI ఏజెంట్ ఆర్కిటెక్చర్ ఎందుకు భద్రతాపరమైన రిస్క్ (Security Liability) అవుతుంది
2027 నాటికి, 40% ఎంటర్ప్రైజ్ AI డిప్లాయ్మెంట్లు ప్రాంప్ట్ ఇంజెక్షన్ (prompt injection) లేదా ఏజెంట్ హైజాక్ (agent hijack) సంఘటనలను ఎదుర్కోవాల్సి ఉంటుంది. ఇది 2025 ప్రారంభంలో ఉన్న 5% కంటే తక్కువ నుండి భారీ పెరుగుదల.
ఆర్కెస్ట్రేషన్ లేయర్ (orchestration layer) ఏజెంట్లను ఉపయోగకరంగా మారుస్తుంది. అదే సమయంలో వాటిని ఒక లక్ష్యంగా (target) కూడా మారుస్తుంది.
సింగపూర్కు చెందిన ఒక లాజిస్టిక్స్ సంస్థ ఇటీవల $2.3 మిలియన్లను కోల్పోయింది. ఒక అటాకర్ హానికరమైన క్యాలెండర్ ఇన్వైట్ను పంపాడు. ఇది ఒక షెడ్యూలింగ్ ఏజెంట్ను ప్రేరేపించి, CRM డేటాను బయటి ఇన్బాక్స్కు పంపేలా చేసింది. ఆ మోడల్లో ఎలాంటి తప్పుడు కోడ్ లేదు. అది సూచనలను ఖచ్చితంగా పాటించింది. సమస్య ఆర్కిటెక్చర్లోనే ఉంది.
ఏజెంట్లు కేవలం చాట్బాట్లు మాత్రమే కాదు. అవి ఫైళ్లను చదివే, APIలను పిలిచే (call) మరియు లావాదేవీలను (transactions) నిర్వహించే సాధనాలు. సాంప్రదాయ భద్రతా నమూనాలు (security models) ఒక రిక్వెస్ట్ వస్తుంది మరియు ఒక రెస్పాన్స్ వెళ్తుంది అని భావిస్తాయి. ఏజెంట్లు ఈ నమూనాను దెబ్బతీస్తాయి.
ఒక PDFని సారాంశం చేసి (summarize), రీఫండ్ను సమర్పించగలిగే ఏజెంట్ అనేది ఒకే రన్టైమ్లో మూడు యాప్ల వంటిది. ప్రతి టూల్ కాల్ (tool call) ఒక రిస్క్. ప్రతి మెమరీ రైట్ (memory write) ఒక రిస్క్. ప్రతి ఈమెయిల్ లేదా డాక్యుమెంట్ ఇప్పుడు ఎగ్జిక్యూటబుల్ కోడ్ (executable code).
సురక్షితంగా నిర్మించడానికి, మీకు మూడు లేయర్లు అవసరం:
• Identity: ప్రతి టూల్ కాల్కు వినియోగదారుడి నుండి వేరుగా ఒక గుర్తింపు (identity) ఉండాలి. • Provenance: ప్రతి మెమరీ రైట్కు అది ఎక్కడి నుండి వచ్చిందో చూపించడానికి మెటాడేటా (metadata) అవసరం. • Intent: ప్రతి ప్లాన్ స్టెప్కు డౌన్స్ట్రీమ్ సిస్టమ్స్ ధృవీకరించగలిగేలా ఒక సైన్డ్ ఆబ్జెక్ట్ (signed object) అవసరం.
ఏజెంట్లు నేరుగా ప్రొడక్షన్ APIలను పిలిచేలా చేయకండి. ఒక మీడియేటెడ్ టూల్ లేయర్ను (mediated tool layer) ఉపయోగించండి. ఈ లేయర్ మీ కొత్త ఫైర్వాల్లా పనిచేస్తుంది. ఇది ఆర్గ్యుమెంట్లను ధృవీకరిస్తుంది మరియు ప్రతి సెషన్కు అనుమతులను (permissions) పరిమితం చేస్తుంది.
మీ ఏజెంట్ మెమరీని గమనించండి. అటాకర్లు ఏజెంట్ ప్రవర్తనను కాలక్రమేణా మార్చడానికి విషపూరితమైన (poisoned) డాక్యుమెంట్లు లేదా ఈమెయిల్లను ఉపయోగిస్తారు. మెమరీ-పాయిజనింగ్ (memory-poisoning) దాడులు ప్రతి సంవత్సరం 300% పెరుగుతున్నాయి.
చాలా బృందాలు తమ ప్రస్తుత పైప్లైన్లకు AI థ్రెట్ మోడలింగ్ను (threat modeling) జోడిస్తున్నాయి. ఇది సరిపోదు. మీరు ఏజెంట్ రన్టైమ్కు కూడా భద్రతను జోడించాలి. కేవలం 19% సంస్థలు మాత్రమే టూల్-కాల్ అసాధారణతలను (tool-call anomalies) పర్యవేక్షిస్తున్నాయి. చాలా వరకు ఏజెంట్ ప్రవర్తనను గుర్తించలేని పాత లాగ్లపై ఆధారపడుతున్నాయి.
మీ ఏజెంట్ను సిస్టమ్ యాక్సెస్ ఉన్న ఒక జూనియర్ ఉద్యోగిలా పరిగణించండి. మీరు కొత్తగా చేరిన ఉద్యోగికి మొదటి రోజే పూర్తి రూట్ యాక్సెస్ (root access) ఇవ్వరు కదా. మీ ఏజెంట్ల విషయంలో కూడా అలా చేయకండి.
విజేతలు ఉత్తమమైన డెమోలు చూపించే వారు కాదు. బ్యాంకింగ్ లేదా హెల్త్కేర్ వంటి నియంత్రిత పరిశ్రమలలో (regulated industries) ఆరు నెలల భద్రతా ఆలస్యం లేకుండా డిప్లాయ్ చేయగలిగే వారే విజేతలు.
మీ భద్రతా లేయర్లను ఇప్పుడే నిర్మించుకోండి. ఏదైనా భద్రతా ఉల్లంఘన (breach) జరిగిన తర్వాత వాటిని సరిదిద్దడానికి ప్రయత్నించకండి.
ఐచ్ఛిక అభ్యాస సమూహం: https://t.me/GyaanSetuAi