𝗕𝗲𝘆𝗼𝗻𝗱 𝗧𝗵𝗲 𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗟𝗼𝗼𝗽: 𝗧𝘀 𝗢𝗿𝗰𝗵𝗲𝘀𝘁𝗿𝗮𝘁𝗼𝗿 𝗣𝗮𝘁𝘁𝗲𝗿𝗻
বেশিরভাগ মানুষ একটি এজেন্টিক লুপ (agentic loop) ব্যবহার করে মাল্টি-এজেন্ট সিস্টেম তৈরি করেন।
LLM এখানে মস্তিষ্ক এবং কন্ট্রোল ফ্লো হিসেবে কাজ করে। এটি চিন্তা করে, একটি টুল কল করে, পর্যবেক্ষণ করে এবং পুনরায় সেই প্রক্রিয়াটি চালায়। এটি এক্সপ্লোরেশনের জন্য কার্যকর হলেও, এটি তিনটি বড় সমস্যার সৃষ্টি করে:
- অনিশ্চয়তা (Unpredictability): একটি টাস্ক সম্পন্ন করতে ৩টি কল বা ৯টি কল লাগতে পারে। এটি চলা পর্যন্ত আপনি ল্যাটেন্সি (latency) বা খরচ সম্পর্কে জানতে পারবেন না।
- নন-ডিটারমিনিজম (Non-determinism): একই প্রশ্নের জন্য প্রতিবার ভিন্ন ভিন্ন পথ অনুসরণ করা হতে পারে। এর ফলে অর্ডার দেওয়ার মতো সাইড ইফেক্ট (side effect) আছে এমন কাজের ক্ষেত্রে এজেন্টদের বিশ্বাস করা কঠিন হয়ে পড়ে।
- দুর্বল অবজারভেবিলিটি (Poor observability): ডিবাগিং করার জন্য রিজনিং এবং টুল কলের এলোমেলো ট্রান্সক্রিপ্ট পুনরায় প্লে করতে হয়।
আপনি যদি আপনার এজেন্ট এবং তাদের ফাংশন সম্পর্কে জানেন, তবে এর পরিবর্তে Orchestrator pattern ব্যবহার করুন।
Orchestrator সিদ্ধান্ত গ্রহণ এবং এক্সিকিউশনকে আলাদা করে। এটি তিনটি স্বতন্ত্র ধাপ ব্যবহার করে:
- Route: একটি LLM কল টুলগুলো নির্বাচন করে। এটি ব্যবহারকারীকে উত্তর দেয় না।
- Execute: সাধারণ TypeScript কোড এজেন্টগুলোকে চালায়। এখানে কোনো LLM ব্যবহার করা হয় না।
- Synthesize: একটি LLM কল ডেটাকে একটি স্বাভাবিক উত্তরের (natural response) রূপ দেয়।
এই প্যাটার্নটি তিনটি এক্সিকিউশন মোড তৈরি করে:
• Single: একটি এজেন্ট কুয়েরিটি হ্যান্ডেল করে। • Parallel: Promise.all ব্যবহার করে একাধিক স্বাধীন এজেন্ট একসাথে চলে। এটি সময় বাঁচায়। • Sequential: এজেন্টরা ক্রমানুসারে চলে। প্রতিটি ধাপ পূর্ববর্তী ধাপের ফলাফল ব্যবহার করে।
এই পদ্ধতিটি ব্যবহার করে আপনি পাচ্ছেন:
- একটি নির্ভরযোগ্য পরিকল্পনা: কোড চলার আগেই আপনি এক্সিকিউশন প্ল্যানটি দেখতে পান।
- দ্রুত গতি: প্যারালাল এক্সিকিউশন একসাথে একাধিক লুকআপ (lookup) সম্পন্ন করতে পারে।
- উন্নত টেস্টিং: আপনি কোনো API কী ছাড়াই এক্সিকিউশন ফেজটি ইউনিট টেস্ট করতে পারেন।
- পূর্বানুমানযোগ্য খরচ: প্রতিটি রিকোয়েস্টে ঠিক দুটি LLM কল ব্যবহৃত হয়।
এক্সপ্লোরেশনের জন্য এজেন্টিক লুপ ব্যবহার করুন। কিন্তু গতি এবং নির্ভরযোগ্যতা প্রয়োজন এমন প্রোডাকশন সিস্টেমের জন্য Orchestrator ব্যবহার করুন।
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi