𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵: 𝘁𝗮𝘆𝗮𝗿𝗶𝗽𝗽𝘂 𝗻𝗶𝗹𝗮𝘆𝗶𝗹 𝘂𝗹𝗹𝗮 𝗮𝗴𝗲𝗻𝘁𝘀-𝗸𝗮𝗹𝗮𝗶 𝗺𝘂𝗱𝗮𝗸𝗸𝘂𝗺 7 𝘁𝗮𝘃𝗮𝗿𝘂𝗴𝗮𝗹

2024-ல் பெரும்பாலான AI குழுக்கள் ஒரு தவறு செய்தன. அவை நிலையான தரவை (static data) மட்டுமே நம்பியிருக்கும் RAG పైప్‌லைன்களை உருவாக்கின.

ஒரு நிலையான RAG పైప్‌லைன் என்பது இணையத்தின் ஒரு புகைப்படம் போன்றது. அதை எடுத்த அடுத்த கணமே அது காலாவதியாகிவிடும். AWS இப்போது Amazon Bedrock AgentCore-ல் உள்ள Web Search மூலம் இதை மாற்றியுள்ளது.

இந்தத் கருவி, நீங்கள் தேடல் உள்கட்டமைப்பை (search infrastructure) உருவாக்காமலேயே, உங்கள் ஏஜென்ட்கள் நேரடித் தரவைப் (live data) பயன்படுத்த அனுமதிக்கிறது. இருப்பினும், பல குழுக்கள் பயன்பாட்டு நிலையில் (deployment) தோல்வியடைகின்றன.

நீங்கள் தவிர்க்க வேண்டிய 7 தவறுகள் இதோ:

  • RAG-க்கு மாற்றாக Web Search-ஐப் பயன்படுத்துதல். Web Search என்பது தற்போதைய நிகழ்வுகள் மற்றும் விலைப் பட்டியல்களுக்கானது. RAG என்பது உங்கள் நிறுவனத்தின் உள் ஆவணங்களுக்கானது. ஒவ்வொரு வினாவிற்கும் (query) சரியான பாதையைத் தேர்ந்தெடுக்க ஒரு router-ஐப் பயன்படுத்தவும்.

  • Bedrock Guardrails, web search-ஐ உள்ளடக்கும் என்று கருதுதல். அவை அவ்வாறு செய்யாது. Web search என்பது ஒரு தனிப்பாதை. domain allowlists மற்றும் PII scrubbing போன்ற AgentCore கொள்கைக் கட்டுப்பாடுகளை (policy controls) நீங்களே அமைக்க வேண்டும்.

  • Multi-agent அமைப்புகளில் தேவையற்ற தேடல்களை (redundant searches) இயக்குதல். AutoGen போன்ற கட்டமைப்புகளில், ஒவ்வொரு துணை ஏஜென்ட்டும் (sub-agent) தனித்தனியாகத் தேடலை அழைக்கலாம். இது உங்கள் செலவை 4 முதல் 8 மடங்கு வரை அதிகரிக்கும். அதற்குப் பதிலாகப் பகிரப்பட்ட தேடல் நினைவகத்தைப் (shared search memory) பயன்படுத்தவும்.

  • 'Frozen Knowledge Trap'-ஐப் புறக்கணித்தல். உங்கள் மாடல் பழைய பதில்களைத் தரும்போது மாடலைத்탓ிக்க வேண்டாம். பிரச்சனை பெரும்பாலும் உங்கள் தரவு கட்டமைப்பில் (data architecture) இருக்கலாம். பதில் வாராவாரம் மாறினால், உங்களுக்கு நேரடித் தேடல் (live search) தேவை.

  • Observability-ஐத் தவிர்த்தல். உங்கள் ஏஜென்ட் தவறான தகவல்களைத் (hallucinate) தந்தால், ஏன் என்று நீங்கள் தெரிந்துகொள்ள வேண்டும். அது தவறான தேடல் முடிவா அல்லது மாடல் பிழையா? ஒவ்வொரு படிநிலையையும் கண்காணிக்க Langfuse-ஐப் பயன்படுத்தவும்.

  • குறிப்பிட்ட endpoints-களுக்கு எதிராக Hardcoding செய்தல். AWS இந்தத் கருவிகளைப் புதுப்பிக்கும். எனவே, நீங்கள் எளிதாக வழங்குநர்களை (providers) மாற்றிக்கொள்ள MCP-க்கு இணக்கமான (MCP-compatible) tool descriptors-களைப் பயன்படுத்தவும்.

  • Prompt injection-களுக்குச் சோதனை செய்யத் தவறுதல். ஒரு நச்சுத்தன்மை கொண்ட இணையப்பக்கம் (poisoned webpage) உங்கள் ஏஜென்ட்டைத் திசைதிருப்பலாம் (hijack). பயன்பாட்டுக்குச் செல்லும் முன், அறியப்பட்ட injection payloads மூலம் உங்கள் ஏஜென்ட்டைச் சோதிக்கவும்.

பயன்பாட்டுக்குத் தயாரான (production-ready) ஏஜென்ட்டை உருவாக்குவது எப்படி:

  1. வினாவின் நோக்கத்தை (query intent) வகைப்படுத்தவும்.
  2. RAG, Web Search அல்லது Memory-க்கு வழிநடத்தவும்.
  3. இணைய முடிவுகளை ஒரு கொள்கை வடிகட்டி (policy filter) மூலம் அனுப்பவும்.
  4. சூழலைத் (context) தொகுத்து மாடலை அழைக்கவும்.

நிலையான அமைப்புகளை உருவாக்குவதை நிறுத்துங்கள். நேரடி மற்றும் ஆதாரப்பூர்வமான (live, grounded) ஏஜென்ட்களை நோக்கி நகரவும்.

Source: https://dev.to/aarhamforensics_eb3c024eb/amazon-bedrock-agentcore-web-search-7-mistakes-that-kill-production-agents-2dkn

Optional learning community: https://t.me/GyaanSetuAi