நிறுவனங்களுக்கான AI ஏஜென்ட்களின் பாதுகாப்பு வழிமுறைகள் (Guardrails for Enterprise AI Agents)
பெரும்பாலான AI பாதுகாப்பு வழிமுறை ஆலோசனைகள் ஒரு விற்பனை விளம்பரம் போலத் தோன்றுகின்றன. அவை ஆடம்பரமான வரைபடங்கள் மற்றும் சரிபார்ப்புப் பட்டியல்களில் (checklists) மட்டுமே கவனம் செலுத்துகின்றன.
உண்மையான உற்பத்திப் பாதுகாப்பு (production safety) அவ்வளவு கவர்ச்சியானது அல்ல. இது LLM-கள் உருவாவதற்கு நீண்ட காலத்திற்கு முன்பே இருந்த விஷயங்களையே நம்பியுள்ளது.
ஒரு Fortune 100 நிறுவனத்திற்காக AI ஏஜென்ட்களை உருவாக்குவதில் நான் இரண்டு ஆண்டுகள் செலவிட்டேன். இந்த ஏஜென்ட்கள் CI/CD தோல்விகள், Kubernetes சம்பவங்கள் மற்றும் உள்கட்டமைப்பு ஆவணங்களைக் (infrastructure docs) கையாளுகின்றன.
அவற்றை பாதுகாப்பாக வைத்திருக்க நாங்கள் பயன்படுத்தும் அடுக்குமுறை கட்டமைப்பை (layered stack) இங்கே காணலாம்.
ஏஜென்ட் எல்லையில் அடையாளம் (Identity). ஒவ்வொரு ஏஜென்ட்டும் ஒரு workload identity-யைப் பயன்படுத்துகிறது. அது ஒருபோதும் பகிரப்பட்ட சான்றுகளை (shared credentials) பயன்படுத்துவதில்லை. IAM வரம்பு (scope) தான் உங்கள் பாதுகாப்பின் உச்சவரம்பு. ஒரு ஏஜென்ட்க்கு தரவுத்தள அணுகல் (database access) தேவையில்லை என்றால், அதன் IAM ரோலுக்கு (role) அந்த அனுமதி இருக்கக்கூடாது. இதுவே உங்கள் மிக முக்கியமான கட்டுப்பாடு.
கருவி அனுமதிப் பட்டியல்கள் (Tool allow-lists). ஒரு ஏஜென்ட் எந்தக் கருவிகளைக் காண முடியும் என்பதைத் தளம் தீர்மானிக்கிறது. ஒரு code-search ஏஜென்ட்க்கு மின்னஞ்சல் கருவி (email tool) இருக்கக்கூடாது. இதற்காக நாங்கள் நிலையான உள்ளமைவுகளை (static configs) பயன்படுத்துகிறோம். நாங்கள் ஒருபோதும் மாறும் கருவிப் பதிவை (dynamic tool registration) பயன்படுத்துவதில்லை.
நெட்வொர்க் வெளியேறும் கட்டுப்பாடுகள் (Network egress controls). ஏஜென்ட்கள் அனுமதிக்கப்பட்ட முனையங்களை (allowlisted endpoints) மட்டுமே சென்றடையும். நாங்கள் DNS வடிகட்டுதல் (filtering) மற்றும் ஒரு egress proxy-யைப் பயன்படுத்துகிறோம். இது மாடல் மாயத்தோற்றங்கள் (model hallucinations) தவறான URL-களை அணுகுவதைத் தடுக்கிறது.
ரகசியத் தனிமைப்படுத்தல் (Secrets isolation). ஏஜென்ட்கள் ஒருபோதும் நேரடி ரகசியங்களைக் (raw secrets) காண்பதில்லை. கருவி அழைப்புகளின் (tool calls) போது செலுத்தப்படும் குறுகிய கால அமர்வு டோக்கன்களை (short-lived session tokens) நாங்கள் பயன்படுத்துகிறோம். ஒரு ப்ராம்ப்ட்டில் (prompt) ஒருபோதும் ரகசியங்களை வைக்காதீர்கள். ஒரு ப்ராம்ப்ட்டில் உள்ள எதையும் பதிவு செய்யவோ
Overbuild your audit trail. Capturing just the prompt and answer is not enough. You need the intermediate tool calls and arguments. It is cheap to log early but expensive to fix later.
Limit agent communication. In multi-agent systems, set a hard cap on agent-to-agent calls. This prevents cascading failures.
AI safety at scale is not a model problem. It is a platform problem. Treat your agents with the same operational discipline as any other production system.
Optional learning community: https://t.me/GyaanSetuAi