Saya Berhenti Menganggap Memori AI Sebagai Ringkasan

Saya berhenti menganggap memori AI sebagai sebuah ringkasan. Sekarang, saya menganggapnya sebagai sebuah serah terima (handoff).

Sebagian besar sistem memori berfokus pada peringkasan. Mereka mengompres percakapan di akhir sesi. Mereka menyimpan bagian-bagian penting untuk digunakan nanti.

Ini adalah sebuah kesalahan. Sebuah ringkasan mencoba mengompres segalanya untuk siapa pun secara umum. Ia tidak memiliki pembaca yang jelas.

Serah terima (handoff) itu berbeda. Serah terima mempersiapkan interaksi berikutnya. Ia menulis untuk sesi mendatang yang perlu melanjutkan pekerjaan tanpa berpura-pura bahwa ia sudah ada di sana sejak awal.

Jika Anda membangun memori AI, Anda harus fokus pada empat hal spesifik:

  • Pergeseran pembingkaian (framing shifts): Bagaimana perspektif pengguna berubah selama sesi berlangsung.
  • Batasan (Boundaries): Aturan seperti "Jangan buat keputusan ini untuk saya" atau "Tanyakan sebelum membuka kembali topik ini."
  • Ketegangan yang belum terselesaikan (unresolved tensions): Hal-hal yang sengaja dipilih pengguna untuk dibiarkan terbuka.
  • Koreksi pengguna: Saat sistem gagal dan pengguna memberikan perbaikannya.

Sebuah serah terima memerlukan skema. Ia harus memisahkan apa yang perlu dibawa ke depan dari apa yang harus ditinggalkan. Ia juga harus melacak apakah pengguna telah menyetujui data tersebut.

Tujuannya bukan untuk mengingat segalanya. Tujuannya adalah untuk melestarikan beberapa hal yang membuat sesi berikutnya lebih akurat dan tidak terlalu repetitif.

Risiko terbesar adalah membiarkan model memutuskan segalanya. Jika model menulis serah terima itu sendirian, ia mungkin menyimpan versi pengguna yang mudah dipahami tetapi tidak benar. Ia mungkin mengubah suasana hati sementara menjadi sifat permanen.

Solusinya adalah jalan tengah: Model membuat draf, dan pengguna meratifikasi.

Pengguna harus memiliki otoritas. Mereka harus dapat dengan cepat menyimpan, menghapus, atau mengedit apa yang dibawa ke depan. Jika sistem membawa hal yang salah, pengguna akan membuang waktu untuk membatalkannya.

Memori bukanlah masalah penyimpanan. Ini adalah masalah tata kelola (governance).

Anda harus memutuskan:

  • Siapa yang memutuskan apa yang perlu diingat?
  • Siapa yang dapat memperbaikinya?
  • Kapan sistem harus memilih untuk melupakan?

Memori AI seharusnya bukan sekadar tumpukan ringkasan. Ia seharusnya berupa serangkaian serah terima yang terkelola.

Sumber: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi