মডেলটি পণ্য নয়। আসল বিষয়টি আসলে কী, তা এখানে দেওয়া হলো।
আমি আমার সময় ব্যয় করি AI শিপিং করা ইঞ্জিনিয়ারদের সাথে কথা বলতে এবং তাদের সাথে কাজ করতে। ডেমো এবং আসল প্রোডাকশন সিস্টেমের মধ্যে একটি ব্যবধান রয়েছে। অনেকেই এই ব্যবধান নিয়ে সৎ নন।
সবাই সবকিছুকেই 'এজেন্ট' (agent) বলে ডাকছে। একটি লুপযুক্ত স্ক্রিপ্ট হলো একটি এজেন্ট। মেমরি সম্পন্ন একটি চ্যাটবট হলো একটি এজেন্ট। এটি ইঞ্জিনিয়ারিংয়ে ভুল সৃষ্টি করে। আপনি সহজ কাজগুলোর জন্য অতিরিক্ত ইঞ্জিনিয়ারিং করেন এবং জটিল কাজগুলোর জন্য অপর্যাপ্ত ইঞ্জিনিয়ারিং করেন।
একটি এজেন্টের একটি লক্ষ্য (objective) থাকা প্রয়োজন। এটি কেবল একটি নির্দেশ অনুসরণ করে না। একটি এজেন্ট সিদ্ধান্ত নেয় পরবর্তীতে কী করতে হবে। এটি ব্যর্থতা সামাল দেয়। এটি জানে কখন তার কাজ শেষ হয়েছে।
- যদি একজন মানুষ আপনার সিস্টেমকে প্রতিটি ধাপ বলে দেয়, তবে সেটি একটি চ্যাট ইন্টারফেস।
- যদি আপনার সিস্টেম একটি ব্যর্থ টুল কল (tool call) থেকে পুনরুদ্ধার করতে পারে, তবে আপনি একটি এজেন্ট তৈরি করছেন।
- যদি আপনার সিস্টেম একটি লক্ষ্যকে উপ-কাজে (subtasks) বিভক্ত করতে পারে, তবে সেটি একটি প্রকৃত এজেন্ট।
প্রকৃত এজেন্ট ডিপ্লয়মেন্টগুলো হয় অত্যন্ত নির্দিষ্ট কাজের জন্য। তারা একটি কাজ খুব ভালোভাবে করে, যেমন ডকুমেন্ট এক্সট্রাকশন বা কোড রিভিউ। সফল দলগুলো কেবল নতুন মডেলের পেছনে ছোটে না। তারা এই তিনটি ক্ষেত্রে মনোযোগ দেয়:
- টুল ডিজাইন (Tool design): ইন্টারফেসটি কতটা পরিচ্ছন্ন?
- ফেইলিউর হ্যান্ডলিং (Failure handling): যখন একটি টুল কোনো ফলাফল দেয় না তখন কী ঘটে?
- অবজারভেবিলিটি (Observability): এজেন্ট কেন একটি সিদ্ধান্ত নিল তা কি আপনি ট্র্যাক করতে পারেন?
LangChain বা CrewAI-এর মতো ফ্রেমওয়ার্কগুলোর চেয়ে প্যাটার্নগুলো বেশি গুরুত্বপূর্ণ। ফ্রেমওয়ার্ক হলো স্কাফোল্ডিং (scaffolding)। আর্কিটেকচার হলো মূল ভবন।
এই প্যাটার্নগুলো ব্যবহার করুন:
- পরিকল্পনা করুন তারপর কার্যকর করুন (Plan then execute)। পরিকল্পনার জন্য একটি ধাপ এবং কার্যকর করার জন্য একটি আলাদা ধাপ ব্যবহার করুন।
- রিট্রিভাল (retrieval) এবং রিজনিং (reasoning)-কে আলাদা রাখুন। কনটেক্সট সংগ্রহ করা এবং কনটেক্সট ব্যবহার করা দুটি ভিন্ন কাজ।
- স্পষ্ট হ্যান্ডঅফ (Explicit handoffs)। যখন একটি এজেন্ট অন্যটির কাছে কাজ হস্তান্তর করে, তখন সেই হস্তান্তর প্রক্রিয়াটি সুসংগঠিত করুন।
RAG একটি স্ট্যান্ডার্ড পদ্ধতি, কিন্তু চাঙ্কিং (chunking) প্রায়শই ভুল হয়। আপনি যদি ডকুমেন্টগুলোকে সঠিকভাবে ভাগ না করেন, তবে মডেলটি কনটেক্সট হারিয়ে ফেলে এবং হ্যালুসিনেশন (hallucinate) করে। যদি আপনার RAG ফলাফল অকেজো হয়, তবে আপনার চাঙ্কিং এবং মেটাডেটা ঠিক করুন। এমবেডিং মডেলকে দোষারোপ করবেন না।
মডেলগুলো আরও উন্নত হবে। কনটেক্সট উইন্ডো বাড়বে। খরচ কমবে। কিন্তু এটি ইঞ্জিনিয়ারিং চ্যালেঞ্জকে পরিবর্তন করে না। আপনাকে এমন সিস্টেম তৈরি করতে হবে যা আপনি তদারকি না করলেও আপনি বিশ্বাস করতে পারেন।
গভর্নেন্স (governance), অবজারভেবিলিটি (observability) এবং টুল ব্যবহারের ওপর মনোযোগ দিন। যে ইঞ্জিনিয়াররা গুরুত্বপূর্ণ হয়ে উঠবেন, তারা কেবল প্রম্পট ইঞ্জিনিয়ারিং নয়, বরং সিস্টেম ডিজাইনে দক্ষ হবেন।
উৎস: https://dev.to/aibughunter/the-model-is-not-the-product-heres-what-actually-is-52b5