𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵: 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 𝗔𝗴𝗲𝗻𝘁𝘀𝗻𝗮 𝗡𝗶𝗸𝗮𝗺𝗶 𝗞𝗮𝗿𝗮𝗻𝗮𝗿𝘆 𝟳 𝗖𝗵𝘂𝗸𝗮

२०२४ मध्ये बहुतेक AI टीम्सनी एक चूक केली. त्यांनी स्थिर (static) डेटावर अवलंबून असलेले RAG पाइपलाइन्स तयार केले.

एक स्थिर RAG पाइपलाइन म्हणजे इंटरनेटचा एक फोटो घेतल्यासारखे आहे. तो काढल्याबरोबरच तो जुना होतो. AWS ने Amazon Bedrock AgentCore वरील Web Search द्वारे हे बदलले आहे.

हे टूल तुम्हाला सर्च इन्फ्रास्ट्रक्चर तयार न करता तुमच्या एजंट्सना लाइव्ह डेटा वापरू देते. मात्र, अनेक टीम्स डिप्लॉयमेंट दरम्यान अपयशी ठरतात.

या ७ चुका तुम्हाला टाळल्या पाहिजेत:

  • RAG च्या ऐवजी वेब सर्चचा वापर करणे. वेब सर्च हे चालू घडामोडी आणि किमतींसाठी आहे. RAG हे तुमच्या कंपनीच्या अंतर्गत कागदपत्रांसाठी आहे. प्रत्येक क्वेरीसाठी योग्य मार्ग निवडण्यासाठी 'router' चा वापर करा.

  • Bedrock Guardrails वेब सर्च कव्हर करते असे मानणे. ते करत नाहीत. वेब सर्च हा एक वेगळा मार्ग आहे. तुम्हाला डोमेन अलाऊलिस्ट (domain allowlists) आणि PII स्क्रबिंग (PII scrubbing) सारखे AgentCore पॉलिसी कंट्रोल्स स्वतः सेट करावे लागतील.

  • मल्टी-एजंट सिस्टममध्ये अनावश्यक (redundant) सर्च करणे. AutoGen सारख्या फ्रेमवर्कमध्ये, प्रत्येक सब-एजंट स्वतंत्रपणे सर्च कॉल करू शकतो. यामुळे तुमचा खर्च ४ ते ८ पटीने वाढू शकतो. त्याऐवजी 'shared search memory' वापरा.

  • 'Frozen Knowledge Trap' कडे दुर्लक्ष करणे. जेव्हा तुमचे मॉडेल जुनी उत्तरे देते, तेव्हा मॉडेलला दोष देऊ नका. समस्या बहुधा तुमच्या डेटा आर्किटेक्चरमध्ये असू शकते. जर उत्तर दर आठवड्याला बदलत असेल, तर तुम्हाला लाइव्ह सर्चची गरज आहे.

  • ऑब्झर्व्हेबिलिटी (observability) वगळणे. जर तुमचा एजंट हॅल्युसिनेट (hallucinate) करत असेल, तर ते का होत आहे हे तुम्हाला माहित असणे आवश्यक आहे. तो सर्च रिझल्ट खराब होता की मॉडेलची चूक होती? प्रत्येक स्टेप ट्रॅक करण्यासाठी Langfuse वापरा.

  • विशिष्ट एंडपॉइंट्ससाठी हार्डकोडिंग करणे. AWS या टूल्समध्ये अपडेट्स करत राहील. MCP-सुसंगत (MCP-compatible) टूल डिस्क्रिप्टर्स वापरा जेणेकरून तुम्ही सहजपणे प्रोव्हायडर्स बदलू शकाल.

  • प्रॉम्प्ट इंजेक्शन (prompt injection) साठी टेस्ट न करणे. एखादे दूषित (poisoned) वेबपेज तुमच्या एजंटला हायजॅक करू शकते. लाइव्ह जाण्यापूर्वी तुमच्या एजंटची ज्ञात इंजेक्शन पेलोड्ससह (injection payloads) चाचणी करा.

प्रोडक्शन-रेडी एजंट कसा तयार करायचा:

  1. क्वेरीचा हेतू (intent) वर्गीकृत करा.
  2. RAG, Web Search किंवा Memory कडे रूट करा.
  3. वेब रिझल्ट्स पॉलिसी फिल्टरमधून पास करा.
  4. कॉन्टेक्स्ट एकत्र करा आणि मॉडेलला कॉल करा.

स्थिर सिस्टम्स बनवणे थांबवा. लाइव्ह आणि ग्राउंडेड (grounded) एजंट्सकडे वळा.

स्रोत: https://dev.to/aarhamforensics_eb3c024eb/amazon-bedrock-agentcore-web-search-7-mistakes-that-kill-production-agents-2dkn

ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi