𝗔𝗪𝗦 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵 𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲
AI तंत्रज्ञान अनेकदा चुकीच्या गोष्टींचे ऑप्टिमायझेशन करते.
बहुतेक टीम्स मॉडेल ट्यून करतात, परंतु खरी त्रुटी कनेक्शन्समध्ये (connections) असते. समस्या बुद्धिमत्तेची नाहीये. समस्या मॉडेल आणि बाह्य जग यांच्यातील 'हँडऑफ्स' (handoffs) मध्ये आहे.
AWS ने नुकतेच Amazon Bedrock AgentCore वर Web Search लाँच केले आहे. यामुळे तुम्ही एजंट्स (agents) कशा प्रकारे तयार करता, यात मोठा बदल होईल.
आतापर्यंत, एजंट्स त्यांच्या ट्रेनिंगमधील जुन्या डेटावर अवलंबून असत. लाईव्ह वेब ॲक्सेस मिळवण्यासाठी, तुम्हाला स्वतःचे स्क्रॅपर्स (scrapers) बनवावे लागत, API की व्यवस्थापित कराव्या लागत आणि रेट लिमिट्स (rate limits) हाताळाव्या लागत. यामुळे इंजिनिअरिंगचा कित्येक आठवड्यांचा वेळ वाया जातो.
नवीन AgentCore टूल हे एक मॅनेज्ड लेयर (managed layer) आहे. ते तुमच्यासाठी आयडेंटिटी (identity), थ्रॉटलिंग (throttling) आणि रिझल्ट ग्राउंडिंग (result grounding) हाताळते. हे ओपन इंटरनेटवरील मॅनेज्ड RAG आहे.
इंजिनिअर्ससाठी हे महत्त्वाचे का आहे:
AI एजंट्समधील कठीण भाग म्हणजे कोऑर्डिनेशन (coordination). तुम्हाला ठरवावे लागेल:
- वेबला कोण कॉल करू शकते?
- टाइमआउट (timeout) दरम्यान काय होते?
- तुम्ही जुना डेटा आणि नवीन रिझल्ट्स यांचा मेळ कसा घालता?
'AI Coordination Gap' हा एक वास्तविक धोका आहे. जर तुमच्याकडे ६-स्टेप पाईपलाईन असेल जिथे प्रत्येक स्टेप ९७% विश्वसनीय आहे, तर तुमची एकूण विश्वासार्हता ८३% पर्यंत खाली येते. गोंधळपूर्ण (noisy) इंटरनेटमुळे हे काम अधिक कठीण होते.
यशस्वी होण्यासाठी, तुम्हाला या पाच लेयर्सचे इंजिनिअरिंग करावे लागेल:
- Retrieval: स्पष्ट नियम ठरवा जेणेकरून मॉडेलला नक्की कधी शोधायचे आहे हे समजेल.
- Identity: स्कॉप्ड क्रेडेंशियल्स (scoped credentials) वापरा जेणेकरून एजंट सुरक्षित राहील.
- Fetching: रँक्ड आणि स्वच्छ रिझल्ट्स मिळवण्यासाठी मॅनेज्ड सर्च वापरा.
- Memory: मॉडेलला जुन्या कॉन्टेक्स्टपेक्षा ताज्या डेटाला प्राधान्य देण्यास सांगा.
- Recovery: सर्किट ब्रेकर्स (circuit breakers) वापरा जेणेकरून एजंट अनंत काळ लूपमध्ये अडकून तुमचा बजेट खर्च करणार नाही.
वेब सर्च हे 'फ्रेशनेस' (freshness) टूल आहे, 'अॅक्युरसी' (accuracy) टूल नाही. इंटरनेटमध्ये खूप गोंधळ (noise) असतो. जर तुमचे कोऑर्डिनेशन लेयर कमकुवत असेल, तर वेब ब्राउझ करू शकणारा एजंट प्रत्यक्षात अधिक वेळा अपयशी ठरू शकतो.
AI मध्ये यशस्वी होणाऱ्या कंपन्या सर्वात मोठे मॉडेल्स वापरत नाहीत. त्या कोऑर्डिनेशनची समस्या सोडवत आहेत.
Optional learning community: https://t.me/GyaanSetuAi