ஏஜென்ட் ரன்டைம் ஈவென்ட் மாடல்
ஏஜென்ட் பிரேம்வொர்க்குகளைப் (agent frameworks) பற்றி விவாதிப்பதை நிறுத்துங்கள்.
பொறியாளர்கள் பெரும்பாலும் LangChain, CrewAI ஆகியவற்றைப் பயன்படுத்த வேண்டுமா அல்லது தமக்கென ஒன்றை உருவாக்க வேண்டுமா என்று கேட்கிறார்கள். இது தவறான கேள்வி. உண்மையான முடிவு என்பது உங்கள் ஏஜென்ட் ரன்டைமிற்குள் (agent runtime) கொள்கையை (policy) எங்கு இணைப்பது என்பதாகும்.
பிரேம்வொர்க்குகள் மாறலாம். ஆனால் கொள்கைக்கான கட்டமைப்புத் தேவை (architectural need) மாறாமல் இருக்கும்.
பிழைகள் மற்றும் பாதுகாப்பு கசிவுகளைத் தடுக்க, ஒவ்வொரு புரொடக்ஷன் ஏஜென்ட் ஸ்டேக்கிற்கும் (production agent stack) நான்கு குறிப்பிட்ட ரன்டைம் ஈவென்ட்கள் (runtime events) தேவை:
• UserPromptSubmit: ப்ராம்ப்ட் (prompt) மாடலைச் சென்றடைவதற்கு முன். ரகசியத் தகவல்கள் மற்றும் PII ஆகியவற்றைத் தடுக்க இதைப் பயன்படுத்தவும். • PreToolUse: ஒரு டூல் (tool) இயங்குவதற்கு முன். செலவு வரம்புகள் (cost budgets) மற்றும் டூல் வைட்லிஸ்ட்களை (tool whitelists) நடைமுறைப்படுத்த இதைப் பயன்படுத்தவும். • PostToolUse: ஒரு டூல் முடிவைத் தந்த பிறகு. PII அல்லது இன்ஜெக்ஷன் தாக்குதல்களை (injection attacks) ஸ்கேன் செய்ய இதைப் பயன்படுத்தவும். • Stop: ஏஜென்ட் வேலையை முடித்த பிறகு. ஏஜென்ட் உண்மையில் பணியை முடித்துவிட்டதா என்பதைச் சரிபார்க்க இதைப் பயன்படுத்தவும்.
ஒவ்வொரு ஈவென்ட்டிற்கும் ஒரு தனித்துவமான பணி உள்ளது.
ப்ராம்ப்ட் சமர்ப்பிப்பு (Prompt submission) வேகமானதாக இருக்க வேண்டும். பயனர் காத்திருக்காமல் இருக்க இது மில்லிசெகண்டுகளில் இயங்க வேண்டும். Stop ஈவென்ட் சற்று அதிக நேரம் எடுக்கலாம். பயனர் முடிவைப் பார்ப்பதற்கு முன், ஏஜென்ட் உண்மையில் தனது வேலையைச் செய்ததா என்பதைச் சரிபார்க்க ஒரு முழு வினாடியை நீங்கள் ஒதுக்கலாம்.
உங்கள் ஹூக்ஸ் (hooks) எவ்வாறு தோல்வியடைகின்றன என்பதையும் நீங்கள் தீர்மானிக்க வேண்டும்.
ஒரு பாதுகாப்பு ஹூக் செயலிழந்தால், நீங்கள் 'fail closed' முறையைப் பின்பற்ற வேண்டும். ஒரு ரகசியத்தை கசிய விடுவதை விட, ஒரு கோரிக்கையை மறுப்பதே சிறந்தது. ஒரு தரப் பரிசோதனை (quality check) செயலிழந்தால், பயனர் தொடர்ந்து பதிலைப் பெறுவதற்காக நீங்கள் 'fail open' முறையைப் பயன்படுத்தலாம்.
பிரேம்வொர்க்குகள் ஒரு பொதுவான பொருள் (commodity). உங்கள் கொள்கை கவரேஜ் (policy coverage) தான் உங்கள் பாதுகாப்பு அரண் (moat).
உங்கள் தற்போதைய ஸ்டேக் (stack) பற்றி இந்த மூன்று கேள்விகளை நீங்களே கேட்டுக்கொள்ளுங்கள்:
- எந்த ஈவென்ட் ப்ராம்ப்ட்களில் ரகசியக் கசிவைத் தடுக்கிறது?
- ஒரு பணியை முடித்ததாக ஏஜென்ட் பொய் சொல்வதைக் கண்டறியும் ஈவென்ட் எது?
- மாடல் அவற்றை வாசிப்பதற்கு முன், டூல் வெளியீடுகளில் PII உள்ளதா என்று தணிக்கை செய்யும் ஈவென்ட் எது?
உங்களால் இவற்றிற்குப் பதிலளிக்க முடியாவிட்டால், உங்கள் ஏஜென்ட் புரொடக்ஷனுக்குத் தயாராக இல்லை.
Source: https://dev.to/willianpinho/the-agent-runtime-event-model-55l9
Optional learning community: https://t.me/GyaanSetuAi