𝗔𝗪𝗦 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵 𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲

AI तकनीक अक्सर गलत चीज़ को ऑप्टिमाइज़ करती है।

अधिकांश टीमें मॉडल को ट्यून करती हैं, जबकि वास्तविक विफलता कनेक्शन में होती है। समस्या बुद्धिमत्ता (intelligence) की नहीं है। समस्या मॉडल और बाहरी दुनिया के बीच होने वाले हैंडऑफ (handoffs) की है।

AWS ने अभी Amazon Bedrock AgentCore पर Web Search रिलीज़ किया है। यह एजेंट बनाने के आपके तरीके को बदल देता है।

अब तक, एजेंट अपने प्रशिक्षण (training) के पुराने डेटा तक ही सीमित थे। लाइव वेब एक्सेस पाने के लिए, आपको अपने स्वयं के स्क्रैपर्स (scrapers) बनाने, API कीज़ (keys) को मैनेज करने और रेट लिमिट्स (rate limits) को संभालने की आवश्यकता होती थी। इससे इंजीनियरिंग का हफ्तों का समय बर्बाद होता है।

नया AgentCore टूल एक मैनेज्ड लेयर (managed layer) है। यह आपके लिए आइडेंटिटी (identity), थ्रॉटलिंग (throttling) और रिजल्ट ग्राउंडिंग (result grounding) को संभालता है। यह ओपन इंटरनेट पर एक मैनेज्ड RAG है।

इंजीनियरों के लिए यह क्यों महत्वपूर्ण है:

AI एजेंटों का कठिन हिस्सा समन्वय (coordination) है। आपको निर्णय लेना होगा:

  • वेब को कौन कॉल कर सकता है?
  • टाइमआउट (timeout) के दौरान क्या होता है?
  • आप पुराने डेटा को नए परिणामों के साथ कैसे मेल (reconcile) करते हैं?

AI Coordination Gap एक वास्तविक जोखिम है। यदि आपके पास 6-चरणों वाला पाइपलाइन है जहाँ प्रत्येक चरण 97% विश्वसनीय है, तो आपकी कुल विश्वसनीयता गिरकर 83% हो जाती है। शोर वाले (noisy) इंटरनेट को जोड़ने से यह और भी कठिन हो जाता है।

जीतने के लिए, आपको इन पांच लेयर्स को इंजीनियर करना होगा:

  • Retrieval: स्पष्ट नियम परिभाषित करें ताकि मॉडल को पता हो कि ठीक कब सर्च करना है।
  • Identity: स्कोप किए गए क्रेडेंशियल्स (scoped credentials) का उपयोग करें ताकि एजेंट सुरक्षित रहे।
  • Fetching: रैंक किए गए और साफ परिणाम प्राप्त करने के लिए मैनेज्ड सर्च का उपयोग करें।
  • Memory: मॉडल को पुराने संदर्भ (context) के बजाय ताज़ा डेटा को प्राथमिकता देने के लिए कहें।
  • Recovery: सर्किट ब्रेकर्स (circuit breakers) का उपयोग करें ताकि एजेंट अनंत काल तक लूप में न फँसे और आपका बजट खत्म न हो जाए।

वेब सर्च ताज़गी (freshness) का टूल है, सटीकता (accuracy) का नहीं। इंटरनेट शोर भरा (noisy) है। यदि आपकी समन्वय लेयर (coordination layer) कमजोर है, तो वेब ब्राउज़ करने वाला एजेंट वास्तव में अधिक बार विफल हो सकता है।

AI के साथ जीत हासिल करने वाली कंपनियाँ सबसे बड़े मॉडलों का उपयोग नहीं कर रही हैं। वे वे हैं जो समन्वय (coordination) की समस्या को हल कर रही हैं।

Source: https://dev.to/aarhamforensics_eb3c024eb/ai-technology-shift-aws-web-search-on-bedrock-agentcore-explained-b70

Optional learning community: https://t.me/GyaanSetuAi