𝗕𝘂𝗶𝗹𝗱𝗶𝗻𝗴 𝗧𝗵𝗲 𝗣𝗿𝗼𝗱𝘂𝗰𝘁𝗶𝗼𝗻 𝗔𝗴𝗲𝗻𝘁 𝗟𝗼𝗼𝗽

একটি ডেমো এজেন্ট তৈরি করা সহজ। কিন্তু একটি প্রোডাকশন এজেন্ট তৈরি করা কঠিন।

ডেমোতে, লুপটি খুব সহজ: পর্যবেক্ষণ করা, সিদ্ধান্ত নেওয়া, কাজ করা, যাচাই করা এবং পুনরায় করা। মডেলটি একটি ফলাফল দেখে এবং পরবর্তী ধাপে চলে যায়।

প্রোডাকশনে, সেই একই লুপের জন্য কঠোর নিয়মের প্রয়োজন হয়। একটি প্রোডাকশন এজেন্ট কেবল একটি মডেল এবং কিছু টুলস-এর সমষ্টি নয়। এটি একটি কাঠামোর মধ্যে আবদ্ধ লুপ যা একে সঠিক পথে রাখতে সাহায্য করে।

সবচেয়ে বড় ফাঁদ হলো টুলের রেসপন্সের ওপর অন্ধভাবে বিশ্বাস করা।

কল্পনা করুন একটি এজেন্টকে একটি অর্ডার বাতিল করতে হবে এবং রিফান্ড দিতে হবে।

ডেমোতে এটি কাজ করে। কিন্তু প্রোডাকশনে এটি একটি বিপর্যয়।

একটি 200 OK প্রায়শই মানে হলো রিকোয়েস্টটি গ্রহণ করা হয়েছে, কাজ সম্পন্ন হয়েছে এমন নয়। বাতিল করার প্রক্রিয়াটি হয়তো এখনও একটি কিউতে (queue) পেন্ডিং অবস্থায় আছে। যদি বাতিলকরণ নিশ্চিত হওয়ার আগেই এজেন্ট রিফান্ড দিয়ে দেয়, তবে আপনি একটি অনুমানের ওপর ভিত্তি করে টাকা লেনদেন করছেন।

আপনাকে একটি নিয়ম অবশ্যই মেনে চলতে হবে: একটি টুলের রেসপন্স রিকোয়েস্টের বর্ণনা দেয়, কিন্তু সেটি বাস্তব জগতের অবস্থা নাও হতে পারে।

একটি নিরাপদ প্রোডাকশন লুপ তৈরি করতে আপনার এই উপাদানগুলো প্রয়োজন:

• Tool Contracts: প্রতিটি টুলের ইনপুট, আউটপুট, ফেইলর মোড (failure modes) এবং একটি idempotency key অবশ্যই সংজ্ঞায়িত থাকতে হবে। • Verification Gates: টুলটি কেবল একটি সাকসেস কোড রিটার্ন করেছে কি না তা যাচাই করবেন না। পরিবর্তনটি সত্যিই ঘটেছে কি না তা নিশ্চিত করতে বাস্তব জগতের অবস্থা পুনরায় যাচাই করুন। • Working State: চ্যাট হিস্ট্রি থেকে তথ্য বা ফ্যাক্টগুলোকে আলাদা রাখুন। এটি কথোপকথনের টেক্সটের ওপর ভিত্তি করে এজেন্টের হ্যালুসিনেশন (hallucinating) করা রোধ করে। • Approval Gates: উচ্চ-ঝুঁকিপূর্ণ কাজের ক্ষেত্রে এজেন্টের উদ্দেশ্য বা ইনটেন্ট (intent) অনুমোদনের জন্য মানুষের সহায়তা নিন। • Stop Rules: অনিয়ন্ত্রিত লুপ প্রতিরোধ করতে ধাপ (steps), খরচ, সময় এবং নীরবতার (silence) ওপর সীমা নির্ধারণ করুন।

লুপের কাঠামো পরিবর্তন হয় না। তবে এর বাস্তবায়ন আরও কঠোর হয়।

গুরুত্বপূর্ণ বা ফলাফলপ্রসূত কাজের জন্য, আপনার "check" ধাপে দুটি অংশ থাকতে হবে:

  1. Verify: বাস্তব জগত কি প্রত্যাশা অনুযায়ী পরিবর্তিত হয়েছে?
  2. Commit: যেহেতু এটি নিশ্চিত হয়েছে, এখন কি পরবর্তী ধাপে যাওয়া নিরাপদ?

সবচেয়ে নিরাপদ এজেন্ট হলো সেটি যা সবচেয়ে বেশি সীমাবদ্ধ। নির্ভরযোগ্যতা আসে মডেলের চারপাশে স্পষ্ট সীমানা নির্ধারণ করার মাধ্যমে, তাকে আরও বেশি স্বাধীনতা দেওয়ার মাধ্যমে নয়।

Source: https://dev.to/gursharansingh/ai-agents-in-practice-part-6-building-the-production-agent-loop-2lfi

Optional learning community: https://t.me/GyaanSetuAi