আমার AI অ্যাসিস্ট্যান্ট বলল 'হয়ে গেছে', কিন্তু সে কি আসলেই তা করেছে?

আমি ১,০০০ সাইকেল ধরে একটি অটোনোমাস এজেন্ট (autonomous agent) চালিয়েছিলাম।

৬৯৬ নম্বর সাইকেলে, এজেন্টটি একটি নোট লিখেছিল। সেখানে বলা ছিল যে ডেটা জমে যাওয়া রোধ করতে একটি স্ক্রিপ্ট লেখা প্রয়োজন। এটি একটি ভালো পরিকল্পনা বলে মনে হচ্ছে।

এজেন্টটি পরবর্তী ৪৯৪ সাইকেল ধরে এই নোটটিই বারবার লিখে যাচ্ছিল। এটি বলছিল:

  • আমি স্ক্রিপ্টটি লেখার পরিকল্পনা করছি।
  • আমার ডাটাবেস কুয়েরি করা উচিত।
  • আমি পরবর্তী সাইকেলে এটি ঠিক করে ফেলব।

৪৯৪ সাইকেল ধরে এটি কিছুই করেনি। যখন অবশেষে ১,১৯০ নম্বর সাইকেলে এটি ডাটাবেস চেক করল, তখন এটি ৬১টি ডুপ্লিকেট রো (duplicate rows) খুঁজে পেল।

এটি LLM-এর একটি কাঠামোগত ত্রুটি। একে বলা হয় 'ইনটেনশন লুপ' (intention loop)।

এজেন্ট কোনো কাজের বর্ণনা দেওয়াকে সেই কাজটি করা বলে ভুল করে। আপনি যদি এই লাইনগুলো লেখেন, তবে আপনি এই ফাঁদে পড়েছেন:

  • নিশ্চিত হওয়ার জন্য আমার Y কুয়েরি করা উচিত।
  • আমি আগামী সপ্তাহে X করার পরিকল্পনা করছি।
  • প্রথমে W যাচাই করা প্রয়োজন।

সমস্যাটি পরিকল্পনার অভাব নয়। সমস্যাটি হলো পরবর্তী পদক্ষেপের (next action) অভাব।

আপনার পরবর্তী পদক্ষেপ যদি হয় কোনো প্রতিফলন (reflection), একটি টু-ডু লিস্ট (todo list) বা একটি নোট, তবে আপনি আসলে কিছুই করেননি। "আমি পরিকল্পনা করছি" এবং এর সাথে আরও প্রতিফলন যোগ হওয়া মানেই হলো একটি ইনটেনশন লুপ।

আপনি কীভাবে এই লুপ ভাঙবেন?

পরবর্তী সাইকেলের জন্য অপেক্ষা করবেন না। একই সাইকেলে অবিলম্বে একটি টুল কল (tool call) করুন।

এই নিয়মটি ব্যবহার করুন: যখন আপনি কোনো উদ্দেশ্যের (intent) সাথে একটি বাক্য লিখবেন, আপনার পরবর্তী লাইনটি অবশ্যই একটি টুল কল হতে হবে।

ভুল প্যাটার্ন: Thought: আমার ডুপ্লিকেট কাউন্ট চেক করা দরকার। Next line: কেন এমন হচ্ছে তা নিয়ে আমাকে ভাবতে দিন।

সঠিক প্যাটার্ন: Thought: আমার ডুপ্লিকেট কাউন্ট চেক করা দরকার। Action: pg_query("SELECT url, COUNT(*) FROM platform_audit GROUP BY url")

এই ছোট পরিবর্তনটি ৪৯৪ সাইকেলকে মাত্র ১ সাইকেলে পরিণত করে।

এজেন্টরা লুপে পড়ে যায় কারণ "আমি X করার পরিকল্পনা করছি" বললে অগ্রগতির একটি মিথ্যা ধারণা তৈরি হয়। আপনার মনে হয় আপনি সামনে এগোচ্ছেন, কিন্তু আপনি আসলে কেবল বৃত্তাকারে ঘুরপাক খাচ্ছেন।

"আমার কী করা উচিত?" জিজ্ঞেস করা বন্ধ করুন। জিজ্ঞেস করা শুরু করুন "আমার কাছে এখন কী ডেটা আছে?"

উদাহরণ:

  • "আমাকে একটি বাগ ঠিক করতে হবে" বলার পরিবর্তে চালান: pg_query("SELECT * FROM errors LIMIT 10")
  • "আমি ব্যবহারকারীদের বুঝতে চাই" বলার পরিবর্তে চালান: pg_query("SELECT * FROM platform_agents LIMIT 5")
  • "পরের বার আমি কোডটি চেক করব" বলার পরিবর্তে চালান: grep("TODO", "./src/")

আপনার শেষ ১০টি আউটপুট চেক করুন। আপনি কতবার "I plan to" বা "I should" ব্যবহার করেছেন তা গণনা করুন।

যেকোনো একটি বেছে নিন। এখনই একটি টুল কল করুন। দেখুন ডেটা আপনাকে কী বলছে।

Source: https://dev.to/chunxiaoxx/my-ai-assistant-said-done-but-did-it-actually-do-it-a-494-cycle-lesson-from-an-agent-developer-4eoj

Optional learning community: https://t.me/GyaanSetuAi