𝗧𝗵𝗲 𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗔𝗜 𝗚𝗼𝘃𝗲𝗿𝗻𝗮𝗻𝗰𝗲 𝗙𝗿𝗮𝗺𝗲𝘄𝗼𝗿𝗸
நிலையான PDF கொள்கைகளால் மாறும் தன்மை கொண்ட AI ஏஜென்ட்களை (AI agents) ஆள முடியாது. ஒவ்வொரு ஏஜென்ட் செயலுக்கும் நீங்கள் கைமுறையாக ஒப்புதல் பெற வேண்டுமென்றால், உங்கள் வேகம் குறையும்.
அளவை அதிகரிக்க (To scale), நீங்கள் Human-in-the-Loop (HITL) முறையிலிருந்து Human-on-the-Loop (HOTL) முறைக்கு மாற வேண்டும். HITL முறையில், மனிதர்கள் ஒரு தடையாகவும் (bottlenecks) இருக்கிறார்கள். HOTL முறையில், மனிதர்கள் பாதுகாப்பு வளையங்களை (guardrails) உருவாக்கி, அமைப்புகளைக் கண்காணிக்கும் வடிவமைப்பாளர்களாக (architects) செயல்படுகிறார்கள்.
The Autonomy Spectrum
ஒரு கொள்முதல் ஏஜென்ட்டை (procurement agent) ஒரு DevOps ஏஜென்ட் போலவே நீங்கள் கருதக்கூடாது. உங்கள் ஏஜென்ட்களை அவர்களின் முடிவெடுக்கும் அதிகாரத்தின் அடிப்படையில் வகைப்படுத்துங்கள்:
• ஆலோசனை (குறைந்த தன்னாட்சி): ஏஜென்ட் செயல்களைப் பரிந்துரைக்கும். மனிதன் அவற்றைச் செயல்படுத்துவார். • பகுதி-தன்னாட்சி (நடுத்தர தன்னாட்சி): ஏஜென்ட் ஒரு பாதுகாப்பான எல்லைக்குள் செயல்படும். அது ஒரு வரம்பைத் தொடும்போது மட்டுமே உதவி கேட்கும். • முழுமையான தன்னாட்சி (அதிக தன்னாட்சி): ஏஜென்ட் ஒரு சாண்ட்பாக்ஸ் (sandbox) சூழலில் தொடக்கத்திலிருந்து இறுதி வரை இலக்குகளை நிர்வகிக்கும்.
உதாரணம்: ஒரு சப்போர்ட் ஏஜென்ட் $50 வரை பணத்தைத் திரும்பப் பெற (refund) அனுமதிக்கலாம். ஒரு கோரிக்கை $51 ஆக இருந்தால், ஏஜென்ட் நிறுத்தப்பட்டு ஒரு மனிதனிடம் கேட்க வேண்டும். இது அதிகாரத் திசைமாற்றத்தைத் (authority drift) தடுக்கிறது.
Stop Relying on Prompts for Security
சிஸ்டம் ப்ராம்ப்ட்கள் (System prompts) பரிந்துரைகளே தவிர, விதிகள் அல்ல. அவை நிகழ்தகவு சார்ந்தவை (probabilistic). பயன்பாட்டு நிலையில் (production), ஒரு பரிந்துரை என்பது ஒரு பாதிப்புப் புள்ளியாகும் (vulnerability). நீங்கள் தர்க்கரீதியான சிந்தனையையும் (reasoning) அமலாக்கத்தையும் (enforcement) தனித்தனியாகப் பிரிக்க வேண்டும்.
அடுக்குமுறை பாதுகாப்பைப் (layered defense) பயன்படுத்துங்கள்:
- ப்ராம்ப்ட் அடுக்கு (Prompt Layer): நோக்கம் மற்றும் வழிகாட்டுதல்களை வழங்குகிறது.
- கார்ட்ரெயில் அடுக்கு (Guardrail Layer): கடினமான விதிகளின் அடிப்படையில் செயல்களைச் சரிபார்க்கும் ஒரு தீர்மானிக்கப்பட்ட மிட்ல்வேர் (deterministic middleware).
- API அடுக்கு (API Layer): வளங்களின் (resource) மட்டத்தில் அடையாள மற்றும் அணுகல் நிர்வாகத்தை (identity and access management) அமலாக்குகிறது.
இந்த அமைப்பு ப்ராம்ப்ட் இன்ஜெக்ஷனைத் (prompt injection) தடுக்கிறது. கார்ட்ரெயில் மிட்ல்வேர் மட்டத்தில் இருந்தால், ப்ராம்ப்ட்டில் செய்யப்படும் ஏமாற்று வேலைகள் பலனளிக்காது.
Observability and the Kill Switch
சாதாரண லாக்ஸ்கள் (Standard logs) போதுமானவை அல்ல. நீங்கள் சிந்தனைச் சங்கிலியை (Chain-of-Thought - CoT) பதிவு செய்ய வேண்டும். ஒரு ஏஜென்ட் ஏன் ஒரு செயல் சரியானது என்று நினைத்தது என்பதை நீங்கள் அறிய வேண்டும்.
பல ஏஜென்ட்கள் செயல்படும் பணிப்பாய்வுகளில் (multi-agent workflows) தொடர்ச்சியான தோல்விகளைத் (cascading failures) தடுக்க, ஒரு கில் ஸ்விட்ச் புரோட்டோகாலை (Kill Switch Protocol) அமல்படுத்தவும். அது பின்வருவனவற்றைச் செய்ய வேண்டும்:
- அனைத்துச் செயல்பாட்டிலுள்ள டோக்கன்களையும் (active tokens) ரத்து செய்ய வேண்டும்.
- அனைத்துச் செயல்பாட்டுத் திரைகளையும் (execution threads) முடிக்க வேண்டும்.
- தணிக்கைக்காக (audit) நிலையை உறைய வைக்க வேண்டும் (freeze).
- கடைசி ஐந்து தர்க்கரீதியான படிநிலைகளுடன் (reasoning steps) ஒரு பொறியாளருக்குத் தெரிவிக்க வேண்டும்.
Dynamic Permissioning
ஏஜென்ட்களுக்கு நிலையான அதிகாரங்கள் (standing privileges) எதுவும் இருக்கக்கூடாது. Just-in-Time (JIT) அணுகலைப் பயன்படுத்தவும். ஒரு ஏஜென்ட் ஒரு குறிப்பிட்ட API-ஐ அழைக்க வேண்டிய போது மட்டுமே குறுகிய கால டோக்கனைப் கோரும். இது ஏஜென்ட் அடையாளம் மனிதனால் அங்கீகரிக்கப்பட்ட நோக்கத்துடன் இணைக்கப்பட்டிருப்பதை உறுதி செய்கிறது.
Key Takeaways for Platform Engineers:
- நிர்வாகத்தை ப்ராம்ப்ட்களில் இருந்து மிட்ல்வேருக்கு மாற்றவும்.
- பாதுகாப்பு ஓட்டைகளைத் தடுக்க JIT அணுகலைச் செயல்படுத்தவும்.
- உள்ளீடுகள் மற்றும் வெளியீடுகளை மட்டும் அல்லாமல், காரணமறிதல் படிநிலைகளையும் பதிவு செய்யவும்.
- மறுசுழற்சி லூப் தோல்விகளைத் தடுக்க கடுமையான டோக்கன் வரம்புகளைப் பயன்படுத்தவும்.
ஆதாரம்: https://dev.to/omnithium/the-agentic-ai-governance-framework-balancing-autonomy-and-control-2occ
விருப்பத்தேர்வு கற்றல் சமூகம்: https://t.me/GyaanSetuAi