من دیگر با حافظه هوش مصنوعی مانند خلاصه‌ها برخورد نمی‌کنم

من دیگر با حافظه هوش مصنوعی مانند یک خلاصه برخورد نمی‌کنم. اکنون با آن مانند یک «تحویل کار» (handoff) برخورد می‌کنم.

بیشتر سیستم‌های حافظه بر خلاصه‌سازی تمرکز دارند. آن‌ها در پایان یک جلسه، گفتگو را فشرده می‌کنند و بخش‌های مهم را برای بعد ذخیره می‌کنند.

این یک اشتباه است. یک خلاصه سعی می‌کند همه چیز را برای هیچ‌کسِ خاصی فشرده کند. خلاصه فاقد یک خواننده مشخص است.

«تحویل کار» متفاوت است. تحویل کار، تعامل بعدی را آماده می‌کند. این کار برای جلسه‌ای در آینده نوشته می‌شود که باید کار را از همان‌جا ادامه دهد، بدون اینکه وانمود کند از ابتدا حضور داشته است.

اگر در حال ساخت حافظه برای هوش مصنوعی هستید، باید بر چهار مورد خاص تمرکز کنید:

  • تغییر در چارچوب‌ها: اینکه دیدگاه کاربر در طول جلسه چگونه تغییر کرده است.
  • مرزها: قوانینی مانند «این تصمیم را به جای من نگیر» یا «قبل از بازگشایی این موضوع، سوال کن».
  • تنش‌های حل‌نشده: چیزهایی که کاربر عمداً تصمیم گرفته آن‌ها را باز (بدون نتیجه قطعی) رها کند.
  • اصلاحات کاربر: زمانی که سیستم شکست خورده و کاربر راه حل را ارائه داده است.

یک تحویل کار به یک طرحواره (schema) نیاز دارد. باید آنچه را که باید به جلو منتقل شود از آنچه باید پشت سر گذاشته شود، متمایز کند. همچنین باید ردیابی کند که آیا کاربر داده‌ها را تأیید کرده است یا خیر.

هدف، به خاطر سپردن همه چیز نیست. هدف، حفظ موارد معدودی است که باعث می‌شود جلسه بعدی دقیق‌تر و با تکرار کمتر باشد.

بزرگترین ریسک این است که اجازه دهید مدل همه چیز را تصمیم‌گیری کند. اگر مدل به تنهایی تحویل کار را بنویسد، ممکن است نسخه‌ای از کاربر را ذخیره کند که درک آن آسان است اما واقعی نیست. ممکن است یک حالت روحی موقت را به یک ویژگی دائمی تبدیل کند.

راه حل، یک حد وسط است: مدل پیش‌نویس می‌کند و کاربر آن را تأیید می‌کند.

کاربر باید اختیار داشته باشد. آن‌ها باید بتوانند آنچه را که به جلو منتقل می‌شود، به سرعت نگه دارند، حذف کنند یا ویرایش کنند. اگر سیستم چیز اشتباهی را به جلو منتقل کند، کاربر وقت خود را برای بازگرداندن آن تلف می‌کند.

حافظه یک مسئله ذخیره‌سازی نیست؛ یک مسئله حکمرانی (governance) است.

شما باید تصمیم بگیرید:

  • چه کسی تصمیم می‌گیرد چه چیزی به خاطر سپرده شود؟
  • چه کسی می‌تواند آن را اصلاح کند؟
  • سیستم چه زمانی باید فراموش کردن را انتخاب کند؟

حافظه هوش مصنوعی نباید توده‌ای از خلاصه‌ها باشد. بلکه باید مجموعه‌ای از تحویل‌های مدیریت‌شده باشد.

Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Optional learning community: https://t.me/GyaanSetuAi