AI এজেন্টদের আরও বেশি মেমরি প্রয়োজন নেই। তাদের প্রয়োজন নিয়ন্ত্রিত রিকল (Governed Recall)।

বেশিরভাগ মানুষ মনে করেন AI এজেন্টদের আরও ভালোভাবে কাজ করার জন্য আরও বেশি মেমরি প্রয়োজন। তারা আরও বেশি চ্যাট হিস্ট্রি ব্যবহারের পরামর্শ দেন। তারা বড় কনটেক্সট উইন্ডো ব্যবহারের পরামর্শ দেন। তারা আরও বেশি ভেক্টর স্টোরেজ ব্যবহারের পরামর্শ দেন।

কিন্তু বেশি মেমরি প্রায়শই এজেন্টদের কম নির্ভরযোগ্য করে তোলে। এজেন্ট পুরনো বা অপ্রাসঙ্গিক ধারণা ব্যবহার করতে শুরু করে। এটি পুরনো কনটেক্সটকে বর্তমানের সত্য হিসেবে গণ্য করে। এটি ব্যবহারকারীর পছন্দকে অকাট্য প্রমাণের সাথে মিশিয়ে ফেলে।

সমস্যাটি এজেন্ট কতটুকু মনে রাখতে পারে তা নিয়ে নয়। সমস্যাটি হলো এজেন্ট কী কী রিকল করতে পারবে তা নির্ধারণ করা।

এটি একটি সিস্টেম ইঞ্জিনিয়ারিং সমস্যা, বুদ্ধিমত্তার সমস্যা নয়।

রিট্রিভাল (Retrieval) মানেই গভর্নেন্স (governance) নয়। একটি রিট্রিভাল সিস্টেম এমন তথ্য খুঁজে বের করে যা কুয়েরির (query) সাথে সাদৃশ্যপূর্ণ। একটি গভর্নড রিকল সিস্টেম সিদ্ধান্ত নেয় যে সেই তথ্যটি ব্যবহার করা নিরাপদ কি না।

একটি ভালো রিকল পলিসি এই প্রশ্নগুলো করে:

  • এই তথ্যটি কি এখনও প্রাসঙ্গিক?
  • এটি দেখার অনুমতি কার আছে?
  • নতুন প্রমাণ কি এই পুরনো ডেটাকে বাতিল করে দেয়?
  • এই তথ্যের উৎস কী?

সব মেমরির কর্তৃত্ব সমান নয়। একটি টুলের ফলাফল হলো একটি সত্য। একটি মডেল সামারি হলো একটি ধারণা। ব্যবহারকারীর পছন্দ হলো একটি নির্দেশিকা।

আপনি যদি এই সবগুলোকে সমান গুরুত্বের সত্য হিসেবে প্রম্পটে (prompt) দেন, তবে এজেন্ট ব্যর্থ হবে। সিস্টেমকে অবশ্যই প্রমাণ (evidence) এবং দাবির (claims) মধ্যে পার্থক্য করতে হবে। রানটাইম প্রমাণের (runtime evidence) কাছে মডেলের ধারণা সবসময় হারতে হবে।

মেমরির জন্য স্কোপ (scope) এবং প্রোভেন্যান্স (provenance) প্রয়োজন। একটি এজেন্টের আপনার কোম্পানির প্রতিটি ডেটা দেখার প্রয়োজন নেই। ভূমিকা, কাজ এবং অনুমতির ভিত্তিতে মেমরির সীমানা থাকা প্রয়োজন। মেমরি কোথা থেকে এসেছে তাও আপনার জানা প্রয়োজন। একটি মডেলের অনুমানের চেয়ে মানুষের করা মন্তব্য অনেক বেশি গুরুত্ব বহন করে।

এজেন্টদের বড় মস্তিষ্ক দেওয়ার চেষ্টা বন্ধ করুন। তারা কী রিকল করতে পারবে তার জন্য আরও ভালো নিয়ম তৈরি করা শুরু করুন। মডেলের কাছে পৌঁছানোর আগেই রানটাইমকে কনটেক্সট কিউরেট (curate) করতে হবে।

আসল প্রশ্নটি হলো এজেন্ট কতটুকু মনে রাখতে পারে তা নয়। আসল প্রশ্নটি হলো এজেন্ট যা রিকল করছে তা আপনি বিশ্বাস করতে পারেন কি না।

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi