𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵: ஏஜென்ட்களைச் செயலிழக்கச் செய்யும் 7 தவறுகள்

உங்கள் AI ஏஜென்ட் தவறான தகவல்களை (hallucinating) உருவாக்கவில்லை. அது பழைய உண்மைகளை மட்டுமே சொல்கிறது.

பெரும்பாலான குழுக்கள் டெமோக்களில் (demos) வேலை செய்யும் ஏஜென்ட்களை உருவாக்குகிறார்கள், ஆனால் அவை பயன்பாட்டு நிலையில் (production) தோல்வியடைகின்றன. அவை பழைய பயிற்சித் தரவுகள் (stale training data) அல்லது தனிப்பட்ட தரவுகளைக் கசியவிடும் மூன்றாம் தரப்பு தேடல் API-களைச் சார்ந்துள்ளன.

Amazon Bedrock AgentCore Web Search, இணையத் தேடலை (web retrieval) உங்கள் AWS எல்லைக்குள்ளேயே வைத்திருப்பதன் மூலம் இந்தப் பிரச்சனையைத் தீர்க்கிறது. இது வெறும் கருவி மட்டுமல்ல, ஒரு உள்கட்டமைப்பு (infrastructure) ஆகும்.

உங்கள் ஏஜென்ட்களைத் துல்லியமாகவும் பாதுகாப்பாகவும் வைத்திருக்க, இந்த 7 பயன்பாட்டுத் (deployment) தவறுகளைத் தவிர்க்கவும்:

    1. Vector Databases-களை மாற்றுவது இணையத் தேடல் உங்களது தனிப்பட்ட தரவுகளைக் கண்டறிய முடியாது. அது பொதுத் தகவல்களை மட்டுமே கண்டறியும். உள்நாட்டுத் தகவல்களுக்கு (internal knowledge) ஒரு vector database-ஐயும், நிகழ்நேரச் செய்திகளுக்கு (real-time news) AgentCore-ஐயும் பயன்படுத்தவும்.
    1. நிலையான மூலத் தேர்வு (Static Source Selection) ஒவ்வொரு வினவலுக்கும் (query) இணையத் தேடலை இயக்க வேண்டாம். இது பணத்தை வீணாக்குவதோடு தாமதத்தையும் (latency) ஏற்படுத்தும். வினவல்களைத் திசைதிருப்ப Claude Haiku போன்ற ஒரு இலகுரக வகைப்படுத்தியை (lightweight classifier) பயன்படுத்தவும். புதிய தரவுகள் தேவைப்படும்போது மட்டும் இணையத்தைப் பயன்படுத்தவும்.
    1. தளர்வான IAM அனுமதிகள் (Loose IAM Permissions) மேலாண்மை செய்யப்படுகிறது (Managed) என்பதற்காக அது பாதுகாப்பானது என்று அர்த்தமல்ல. wildcard அனுமதிகளைப் பயன்படுத்த வேண்டாம். கட்டுப்பாடற்ற செலவுகளைத் தவிர்க்க, உங்கள் IAM ரோல்களை குறிப்பிட்ட agent ARNs-களுக்கு மட்டும் வரையறுக்கவும்.
    1. மூலத்தின் அதிகாரத்தைப் புறக்கணித்தல் (Ignoring Source Authority) இணையத் தேடல் ஒரு அதிகாரப்பூர்வ ஆவணத்திற்குப் பதிலாக ஒரு சாதாரண வலைப்பதிவைக் (blog) கண்டறியலாம். ஒரு டொமைன் அனுமதிப் பட்டியலை (domain allowlist) உருவாக்க Bedrock Guardrails-ஐப் பயன்படுத்தவும். உங்கள் ஏஜென்ட் ஆதாரங்களைக் (citations) குறிப்பிடுவதை உறுதி செய்யவும்.
    1. வரிசைமுறைத் தேடல் (Sequential Retrieval) இணையத் தேடல் 800ms முதல் 1.4 வினாடிகள் வரை தாமதத்தை ஏற்படுத்துகிறது. சிந்திப்பதற்கு (reasoning) முன் தேடல் முடிவடைவதற்காக நீங்கள் காத்திருந்தால், உங்கள் ஏஜென்ட் மெதுவாகச் செயல்படுவது போல் தோன்றும். தரவுகளை இணையாகப் (parallel) பெற async முறைகளைப் பயன்படுத்தவும்.
    1. மாற்றங்களைக் கண்காணிக்கத் தவறுதல் (Failing to Monitor Drift) உலகம் மாறும்போது துல்லியம் குறைகிறது. உங்கள் தேடல் மூலங்கள் மற்றும் மேற்கோள் டொமைன்களை CloudWatch-இல் கண்காணிக்கவும். வாடிக்கையாளர்கள் கண்டறியும் முன்பே தரக் குறைபாடுகளைக் கண்டறிய உங்கள் மாடல்களை மாதந்தோறும் சோதிக்கவும்.
    1. வரம்பற்ற தேடல் சுழற்சிகள் (Unbounded Search Loops) மல்டி-ஏஜென்ட் சுழற்சிகள் (Multi-agent loops) முடிவில்லாத இணைய அழைப்புகளைத் தூண்டலாம். இதன் காரணமாக ஒரு ஸ்டார்ட்அப் நிறுவனம் ஒரே மாதத்தில் $11,000 செலவிட்டது. ஒரு Lambda பட்ஜெட்டைப் பயன்படுத்தி, ஒரு அமர்வுக்கு (session) இணைய அழைப்புகளுக்கு ஒரு குறிப்பிட்ட வரம்பை நிர்ணயிக்கவும்.

இலக்கு ஒரு கலப்பின அடுக்கு (hybrid stack) ஆகும்: • Intent Classifier • Internal Vector DB • AgentCore Web Search • Bedrock Guardrails • Drift Monitoring

டெமோவிற்காக மட்டும் அல்லாமல், ஆறாவது மாதப் பயன்பாட்டிற்காகவும் (month six) உருவாக்குங்கள்.

Source: https://dev.to/aarhamforensics_eb3c024eb/amazon-bedrock-agentcore-web-search-7-deployment-mistakes-that-break-production-agents-821

Optional learning community: https://t.me/GyaanSetuAi