𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵 𝘃𝘀 𝗥𝗔𝗚

आपका RAG पाइपलाइन संभवतः आपके उपयोगकर्ताओं को गलत जानकारी दे रहा है।

अधिकांश RAG सिस्टम स्टैटिक (static) वेक्टर डेटाबेस पर निर्भर करते हैं। ये डेटाबेस अतीत के केवल स्नैपशॉट हैं। जिस क्षण आप अपने डेटा को इंडेक्स करते हैं, वह पुराना होने लगता है। इससे 'Freshness Debt' (ताजगी का कर्ज) पैदा होता है।

यदि आप स्टैटिक RAG का उपयोग करके वित्तीय समाचारों या उत्पाद की कीमतों के लिए एक एजेंट बनाते हैं, तो आपका एजेंट पुरानी (stale) जानकारी प्रदान करेगा।

Amazon Bedrock AgentCore web search इसे बदल देता है। यह केवल एक फीचर नहीं है। यह एक मैनेज्ड ग्राउंडिंग टूल (managed grounding tool) है।

यहाँ बताया गया है कि यह पारंपरिक RAG से कैसे अलग है:

  • RAG उन निजी आंतरिक दस्तावेज़ों (proprietary internal docs) के लिए सबसे अच्छा है जो धीरे-धीरे बदलते हैं। यह 100ms से कम समय में तेज़ रिट्रीवल (retrieval) प्रदान करता है।
  • AgentCore web search समाचार या नियमों जैसे अस्थिर सार्वजनिक तथ्यों (volatile public facts) के लिए सबसे अच्छा है। यह क्वेरी के समय लाइव डेटा प्राप्त करता है।

बिल्डर्स के लिए यह क्यों महत्वपूर्ण है:

  • कम ग्लू (Less Glue): API रिट्राइज़ और पार्सिंग के लिए 150 लाइनों का कस्टम कोड लिखने के बजाय, आप केवल एक मैनेज्ड कॉल करते हैं।
  • सुरक्षा: यह आपकी AWS ट्रस्ट बाउंड्री के भीतर रहता है। यह IAM का उपयोग करता है और CloudTrail में लॉग करता है।
  • मॉडल एग्नोस्टिक (Model Agnostic): आप इसका उपयोग Claude, Llama, Mistral, या Titan के साथ कर सकते हैं। आप किसी एक प्रोवाइडर तक सीमित नहीं हैं।
  • कम त्रुटियाँ: साइटेशन एनफोर्समेंट (citation enforcement) के साथ लाइव ग्राउंडिंग तथ्यात्मक त्रुटि दरों को 40% से 60% तक कम कर सकती है।

जीतने वाला पैटर्न (The Winning Pattern):

किसी एक को न चुनें। एक हाइब्रिड दृष्टिकोण अपनाएं।

  • अपने निजी, आंतरिक कंपनी दस्तावेज़ों के लिए RAG का उपयोग करें।
  • अस्थिर, सार्वजनिक जानकारी के लिए AgentCore web search का उपयोग करें।

प्रोडक्शन के लिए एक चेतावनी:

अपनी लागत पर नज़र रखें। मल्टी-एजेंट सिस्टम में अनबाउंडेड सर्च डेप्थ (unbounded search depth) से लागत अनियंत्रित हो सकती है। हमने रिकर्सिव सर्च कॉल्स के कारण टेस्ट रन को $30 से $900 तक बढ़ते देखा है। प्रति क्वेरी सर्च कॉल्स की संख्या पर हमेशा एक हार्ड लिमिट सेट करें।

ताजगी (freshness) को बाद की बात मानकर नज़रअंदाज़ करना बंद करें। यह विश्वसनीयता की एक आवश्यकता है।

स्रोत: https://dev.to/aarhamforensics_eb3c024eb/amazon-bedrock-agentcore-web-search-vs-rag-the-real-time-grounding-guide-4p2o

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi