সবচেয়ে জনপ্রিয় AI ফ্রেমওয়ার্কটির একটি মারাত্মক ত্রুটি রয়েছে

মানুষ সবকিছুকেই এজেন্ট বলে ডাকছে।

একটি লুপযুক্ত স্ক্রিপ্ট হলো একটি এজেন্ট। মেমরি সম্পন্ন একটি চ্যাটবট হলো একটি এজেন্ট। এই ভুলটি নিম্নমানের ইঞ্জিনিয়ারিংয়ের দিকে পরিচালিত করে।

দলগুলো সাধারণ কাজের জন্য জটিল অর্কেস্ট্রেশন (orchestration) তৈরি করতে সপ্তাহের পর সপ্তাহ নষ্ট করে। একটি মাত্র প্রম্পটের জন্য আপনার কোনো এজেন্টের প্রয়োজন নেই।

একটি এজেন্টের অবশ্যই একটি লক্ষ্য থাকতে হবে। এটিকে অবশ্যই তার পরবর্তী পদক্ষেপগুলো নিজে সিদ্ধান্ত নিতে হবে। এটিকে ব্যর্থতা সামলাতে হবে এবং কখন একটি কাজ শেষ হয়েছে তা জানতে হবে।

আপনার সিস্টেম পরীক্ষা করতে এই নিয়মগুলো ব্যবহার করুন:

  • যদি প্রতিটি ধাপে একজন মানুষকে নির্দেশনা দিতে হয়, তবে এটি একটি চ্যাট ইন্টারফেস।
  • যদি আপনার সিস্টেম একটি ব্যর্থ টুল কল (tool call) থেকে পুনরুদ্ধার করতে পারে, তবে আপনার কাছে একটি এজেন্ট আছে।
  • যদি আপনার সিস্টেম একটি লক্ষ্যকে উপ-কাজে (subtasks) বিভক্ত করতে পারে, তবে আপনার কাছে একটি প্রকৃত এজেন্ট আছে।

বেশিরভাগ সফল এজেন্ট হলো নির্দিষ্ট কাজের জন্য (narrow)। তারা ডকুমেন্ট এক্সট্রাকশন বা কোড রিভিউয়ের মতো একটি কাজ করে। তারা সাধারণ রিজনিং ইঞ্জিন (reasoning engine) নয়।

সেরা দলগুলো তিনটি জিনিসের ওপর গুরুত্ব দেয়:

  • টুল ডিজাইন: এজেন্টের জন্য ইন্টারফেসগুলোকে পরিচ্ছন্ন করা।
  • ফেইলর হ্যান্ডলিং (Failure handling): একটি টুল ব্যর্থ হলে কী হবে তা নির্ধারণ করা।
  • অবজারভেবিলিটি (Observability): একটি এজেন্ট কেন একটি সিদ্ধান্ত নিল তা ট্রেস করা।

LangChain বা CrewAI-এর মতো ফ্রেমওয়ার্কগুলোর চেয়ে প্যাটার্নগুলো বেশি গুরুত্বপূর্ণ। আমি তিনটি ভিন্ন ফ্রেমওয়ার্কে একই আর্কিটেকচার পুনরায় তৈরি করেছি। ফলাফল একই ছিল।

এই প্যাটার্নগুলো অনুসরণ করুন:

  • পরিকল্পনা তারপর সম্পাদন: পরিকল্পনার জন্য একটি ধাপ এবং কাজের জন্য একটি আলাদা ধাপ ব্যবহার করুন।
  • রিট্রিভাল (retrieval) এবং রিজনিং (reasoning)-কে আলাদা রাখুন: ডেটা সংগ্রহ করা এবং সেটি ব্যবহার করা এক কথা নয়।
  • স্পষ্ট হ্যান্ডঅফ (handoffs): যখন একটি এজেন্ট অন্য এজেন্টের কাছে কাজ হস্তান্তর করে, তখন স্ট্রাকচারড লগ ব্যবহার করুন।

খারাপ চাঙ্কিংয়ের (chunking) কারণে RAG সিস্টেমগুলো প্রায়ই ব্যর্থ হয়। যদি আপনার মডেল প্রযুক্তিগত তথ্য সঠিকভাবে দেয় কিন্তু প্রেক্ষাপট (context) মিস করে, তবে আপনার চাঙ্কগুলোই সমস্যা। সিম্যান্টিক চাঙ্কিং (semantic chunking) বা প্যারেন্ট-ডকুমেন্ট রিট্রিভাল (parent-document retrieval) চেষ্টা করে দেখুন।

বেঞ্চমার্কের পেছনে ছোটা বন্ধ করুন। আসল চ্যালেঞ্জ হলো এমন সিস্টেম তৈরি করা যা আপনি নজর না দিলেও আপনি বিশ্বাস করতে পারেন।

গভর্নেন্স, অবজারভেবিলিটি এবং নির্ভরযোগ্য টুল ব্যবহারের ওপর গুরুত্ব দিন। সেরা ইঞ্জিনিয়াররা শুধু প্রম্পট ইঞ্জিনিয়ারিং নয়, বরং সিস্টেম ডিজাইনের ওপর মনোযোগ দেবেন।

উৎস: https://dev.to/aibughunter/the-hottest-ai-framework-right-now-has-a-fatal-flaw-nobody-mentions-2ing

ঐচ্ছিক লার্নিং কমিউনিটি: https://t.me/GyaanSetuAi