عامل‌های هوش مصنوعی به حافظه بیشتر نیاز ندارند. آن‌ها به بازیابی تحت مدیریت نیاز دارند.

اکثر مردم فکر می‌کنند عامل‌های هوش مصنوعی برای عملکرد بهتر به حافظه بیشتری نیاز دارند. آن‌ها پیشنهاد می‌دهند تاریخچه چت بیشتری در نظر گرفته شود. پیشنهاد می‌دهند پنجره‌های بافت (context windows) بزرگتری استفاده شود. پیشنهاد می‌دهند فضای ذخیره‌سازی برداری (vector storage) بیشتری فراهم شود.

اما حافظه بیشتر اغلب باعث می‌شود عامل‌ها قابلیت اطمینان کمتری داشته باشند. عامل شروع به استفاده از فرض‌های قدیمی و منسوخ می‌کند. بافت‌های قدیمی را به عنوان واقعیت‌های فعلی در نظر می‌گیرد. ترجیحات کاربر را با شواهد قطعی ترکیب می‌کند.

مشکل این نیست که یک عامل چقدر به یاد می‌آورد. مشکل این است که تصمیم بگیریم یک عامل مجاز به بازخوانی چه چیزی است.

این یک مسئله مهندسی سیستم‌هاست، نه یک مسئله هوش.

بازیابی (Retrieval) به معنای حاکمیت (Governance) نیست. یک سیستم بازیابی، اطلاعاتی را پیدا می‌کند که مشابه پرس‌وجو (query) باشد. یک سیستم بازیابی تحت مدیریت، تصمیم می‌گیرد که آیا استفاده از آن اطلاعات ایمن است یا خیر.

یک سیاست بازیابی خوب این سوالات را می‌پرسد:

  • آیا این اطلاعات هنوز تازه و به‌روز است؟
  • چه کسی مجاز به دیدن این اطلاعات است؟
  • آیا شواهد جدیدتر بر این داده‌های قدیمی اولویت دارند؟
  • منبع این اطلاعات چیست؟

همه حافظه‌ها اعتبار یکسانی ندارند. نتیجه یک ابزار (tool)، یک واقعیت است. خلاصه مدل، یک فرض است. ترجیح کاربر، یک راهنما است.

اگر همه این‌ها را به عنوان واقعیت‌های برابر در یک پرامپت (prompt) قرار دهید، عامل شکست خواهد خورد. سیستم باید بین شواهد و ادعاها تمایز قائل شود. شواهد زمان اجرا (Runtime evidence) باید همیشه بر فرض‌های مدل برتری داشته باشند.

حافظه همچنین به محدوده (scope) و منشأ (provenance) نیاز دارد. یک عامل نباید به تک‌تک داده‌های شرکت شما دسترسی داشته باشد. حافظه نیازمند مرزهایی بر اساس نقش‌ها، وظایف و مجوزها است. همچنین باید بدانید حافظه از کجا آمده است. یک نظر انسانی وزن بیشتری نسبت به حدس یک مدل دارد.

از تلاش برای دادن مغزهای بزرگ‌تر به عامل‌ها دست بردارید. ساختن قوانین بهتر برای آنچه می‌توانند بازخوانی کنند را شروع کنید. سیستم در زمان اجرا باید پیش از رسیدن بافت (context) به مدل، آن را پالایش (curate) کند.

سوال واقعی این نیست که یک عامل چقدر می‌تواند به یاد بیاورد. سوال واقعی این است که آیا می‌توانید به آنچه عامل بازخوانی می‌کند اعتماد کنید یا خیر.

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi