AI এজেন্ট স্কোপ এবং টুল লাইফসাইকেল
AI এজেন্ট তৈরি করা কঠিন কারণ আপনি তাদের সহজে নিয়ন্ত্রণ করতে পারেন না। আপনাকে খরচ সীমিত করতে হবে। আপনাকে অনিয়ন্ত্রিত লুপ (runaway loops) থামাতে হবে। একটি রান ব্যর্থ হলে ঠিক কী ঘটেছিল তা আপনাকে স্পষ্টভাবে দেখতে হবে।
আমি এটি পরিচালনা করার জন্য একটি নতুন পদ্ধতি তৈরি করেছি। এটি AgentScope-এর সাথে runAgent নামক একটি এজেন্ট প্রিমিটিভ ব্যবহার করে। এতে বাজেট, রিপ্লেঅ্যাবল ইভেন্ট এবং স্ট্রাকচার্ড ক্যানসেলেশন অন্তর্ভুক্ত রয়েছে।
এটি যেভাবে কাজ করে:
- টুল ফাংশনগুলো সাধারণ async ফাংশন। কোনো জটিল স্কিমার প্রয়োজন নেই।
- একটি টুল রিটার্ন করার আগে বাজেট চেক করা হয়। আপনি যদি কোনো সীমা অতিক্রম করেন, তবে সিস্টেম পুরো রানটি বাতিল করে দেয়।
- রিট্রাই (Retries) এবং টাইমআউট টুল লেভেলে ঘটে।
- ক্যানসেলেশন প্রোপাগেট হয়। যদি একজন ব্যবহারকারী এজেন্ট থামিয়ে দেন, তবে সিস্টেম তাৎক্ষণিকভাবে সক্রিয় ফেচ (fetch) বা ডাটাবেস কুয়েরি বাতিল করে দেয়।
- আপনি একটি রিপ্লেঅ্যাবল লগ পাবেন। প্রতিটি ইভেন্ট টাইপ করা এবং ক্রমানুসারে সাজানো থাকে।
আপনি তিন ধরনের সীমা নির্ধারণ করতে পারেন:
- CostBudget: মোট কত USD খরচ হবে তার সীমা নির্ধারণ করে।
- OpenAITokens: মোট কত টোকেন ব্যবহৃত হবে তার সীমা নির্ধারণ করে।
- AgentToolCalls: অনিয়ন্ত্রিত লুপ বন্ধ করতে মোট টুল কলের সংখ্যা সীমিত করে।
এই পদ্ধতিটি অন্যান্য ফ্রেমওয়ার্ক থেকে আলাদা। বেশিরভাগ ফ্রেমওয়ার্ক ভারী JSON স্কিমা বা লুজ টাইপিং ব্যবহার করে। সেগুলোতে প্রায়ই ফার্স্ট-ক্লাস বাজেট প্রিমিটিভের অভাব থাকে। সবকিছু একসাথে বাতিল করার জন্য তাদের কোনো সমন্বিত পদ্ধতি নেই।
এই সিস্টেমের মাধ্যমে, আপনার এজেন্টের লাইফসাইকেল আপনার অ্যাপ্লিকেশনের লাইফসাইকেলের মতোই হবে। যদি প্যারেন্ট প্রসেস বন্ধ হয়ে যায়, তবে এজেন্টও বন্ধ হয়ে যাবে। ম্যানেজ করার জন্য আলাদা কোনো রানটাইম থাকবে না।
আপনি ইভেন্ট লগ ব্যবহার করতে পারেন:
- ফেইলিউর হিটম্যাপের (failure heatmaps) জন্য ড্যাশবোর্ড তৈরি করতে।
- একটি টেস্ট এনভায়রনমেন্টে রান রিপ্লে করতে।
- টুল সাকসেস ইভেন্টগুলো দেখে সঠিক চার্জ অডিট করতে।
- দুটি ভিন্ন রান তুলনা করে দেখতে যে তারা কোথায় ভিন্নতা তৈরি করেছে।
এটি AI এজেন্টগুলোকে প্রোডাকশনের জন্য অনুমেয় এবং নিরাপদ করে তোলে।
উৎস: https://github.com/WorkRuntime/workit
ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi