𝗔𝗺𝗮𝘇𝗼𝗻 𝗕𝗲𝗱𝗿𝗼𝗰𝗸 𝗔𝗴𝗲𝗻𝘁𝗖𝗼𝗿𝗲 𝗪𝗲𝗯 𝗦𝗲𝗮𝗿𝗰𝗵: 𝗧𝗵𝗲 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 𝗚𝘂𝗶𝗱𝗲
আপনার AI এজেন্ট হ্যালুসিনেশন (hallucinating) করছে মানে এই নয় যে আপনার মডেলটি খারাপ। এটি হ্যালুসিনেশন করছে কারণ আপনার আর্কিটেকচার সময়ের সাথে তাল মিলিয়ে পরিবর্তিত হচ্ছে না।
বেশিরভাগ RAG পাইপলাইন পুরনো বা স্থবির ডেটার জন্য একটি ব্যয়বহুল সাময়িক সমাধান মাত্র। AWS এখন একটি সমাধান দিচ্ছে: Amazon Bedrock AgentCore-এ Web Search। এটি একটি ম্যানেজড টুল যা আপনার এজেন্টদের লাইভ ওয়েব অ্যাক্সেস প্রদান করে।
কেন এটি গুরুত্বপূর্ণ:
একটি LLM কী জানে এবং ব্যবহারকারীরা কী জিজ্ঞাসা করে—এই দুইয়ের মধ্যে ব্যবধান প্রতিদিন বাড়ছে। এই ব্যবধান এজেন্টদের একটি ঝুঁকির যন্ত্রে (liability machines) পরিণত করে।
AgentCore Web Search থেকে আপনি যা পাবেন:
- লাইভ ওয়েব রেজাল্টগুলোর স্ট্রাকচার্ড অ্যাক্সেস।
- কোনো কাস্টম ক্রলারের প্রয়োজন নেই।
- কোনো থার্ড-পার্টি সার্চ API কন্ট্রাক্টের প্রয়োজন নেই।
- আলাদা বিলিংয়ের ঝামেলা নেই।
- ক্রলিং, র্যাঙ্কিং এবং বিলিংয়ের জন্য একটি মাত্র SDK কল।
'Knowledge Freeze Tax' দেওয়া বন্ধ করুন। এটি পুরনো ডেটা ব্যবহারের একটি মূল্য। এর ফলে ভুল উত্তর, ইঞ্জিনিয়ারিংয়ের সময়ের অপচয় এবং উচ্চ ল্যাটেন্সি (high latency) দেখা দেয়।
কীভাবে একটি প্রোডাকশন-গ্রেড পাইপলাইন তৈরি করবেন:
১. Intent Classification: একটি রাউটার ব্যবহার করে সিদ্ধান্ত নিন যে কোনো কুয়েরির জন্য লাইভ ওয়েব, ইন্টারনাল RAG নাকি স্ট্রাকচার্ড ডেটা প্রয়োজন। প্রতিটি কুয়েরির জন্য ওয়েব সার্চ চালাবেন না, অন্যথায় আপনার বাজেট শেষ হয়ে যাবে।
২. Web Search Invocation: এই টুলটি টাইটেল, URL, স্নিপেট (snippets) এবং টাইমস্ট্যাম্প প্রদান করে।
৩. Result Synthesis: মডেলের মধ্যে স্নিপেট এবং টাইমস্ট্যাম্প ইনজেক্ট করুন। আপনাকে অবশ্যই টাইমস্ট্যাম্প অন্তর্ভুক্ত করতে হবে যাতে মডেল বুঝতে পারে কোনো সোর্স পুরনো কি না।
৪. Observability: কোন ওয়েব রেজাল্টগুলো আপনার উত্তরকে প্রভাবিত করেছে তা ট্র্যাক করতে Langfuse ব্যবহার করুন। এন্টারপ্রাইজ কমপ্লায়েন্সের জন্য এটি অত্যন্ত গুরুত্বপূর্ণ।
গুরুত্বপূর্ণ কিছু টেকনিক্যাল টিপস:
- দ্রুত তথ্যের জন্য Web Search ব্যবহার করুন।
- শুধুমাত্র জটিল JavaScript পেজ বা লগইন ওয়ালের জন্য Browser Tool ব্যবহার করুন। সাধারণ অনুসন্ধানের জন্য Browser Tool ব্যবহার করলে ৩ থেকে ৮ সেকেন্ড ল্যাটেন্সি বাড়তে পারে।
- আপনার IAM পারমিশন চেক করুন। নিশ্চিত করুন যে আপনার
bedrock-agentcore:InvokeWebSearchপারমিশন আছে। - একটি হাইব্রিড পদ্ধতি ব্যবহার করুন। এক্সটারনাল ডেটার জন্য Web Search এবং আপনার ইন্টারনাল বা প্রাইভেট ডকুমেন্টের জন্য RAG ব্যবহার করুন।
লক্ষ্য সর্বাধিক ওয়েব সার্চ ব্যবহার করা নয়। লক্ষ্য হলো এমন একটি স্মার্ট রাউটার তৈরি করা যা শুধুমাত্র প্রয়োজন হলেই ওয়েব সার্চ ব্যবহার করবে।
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi