Memori Agen: 7 Jenis, dan 2 di antaranya sebenarnya tidak mengingat

Agen Anda tidak memiliki masalah memori. Ia memiliki tujuh jenis memori yang berbeda. Kebanyakan tim hanya membangun dua.

Hal pertama yang harus Anda pahami: model tidak mengingat apa pun. Sebuah LLM adalah fungsi murni. Ia menerima input dan memberikan output. Ia tidak membawa status (state) di antara panggilan. Apa yang terasa seperti memori hanyalah sebuah lapisan yang mengirim ulang riwayat pada setiap permintaan. Anda membayar token-token tersebut setiap saat.

Sebagian besar upaya rekayasa berujung pada dua pola: riwayat percakapan dan RAG. Ini adalah dua dari tujuh jenis tersebut. Masalahnya? Keduanya tidak membuat agen Anda menjadi lebih pintar seiring berjalannya waktu.

Berikut adalah tujuh jenis memori:

• Working: Segala sesuatu dalam jendela konteks saat ini. • Semantic: Fakta, preferensi, dan pengetahuan domain. • Episodic: Log peristiwa masa lalu dan apa yang berhasil atau gagal. • Procedural: Keterampilan, alur kerja, dan pola alat. • Retrieval: Menarik pengetahuan melalui pencarian kemiripan. • Parametric: Pengetahuan yang tertanam dalam bobot model. • Prospective: Niat masa depan dan tugas yang dijadwalkan.

Dua dari jenis ini bukanlah memori sungguhan. RAG hanyalah mekanisme pengiriman. Ia adalah pipa saluran, bukan airnya. Ia memindahkan data dari penyimpanan ke dalam memori kerja (working memory). Jika Anda hanya menggunakan database vektor, Anda telah membangun pipa tetapi melupakan cairannya.

Untuk membangun agen yang benar-benar belajar, Anda memerlukan consolidation loop (siklus konsolidasi). Ini berarti mengubah memori episodik menjadi memori semantik.

Prosesnya bekerja seperti ini:

  1. Agen mengalami suatu peristiwa (Episodic).
  2. Agen melihat pola yang sama berulang berkali-kali.
  3. Agen mengabstraksi pola tersebut menjadi aturan permanen (Semantic).

Sekarang, agen tidak perlu menalar melalui dua belas contoh. Ia cukup menerapkan satu fakta.

Cara memprioritaskan pembangunan Anda:

  • Kelola memori kerja sebagai anggaran. Ini adalah biaya tertinggi Anda. Gunakan ringkasan (summarization) dan penggusuran (eviction) sejak dini.
  • Pisahkan penyimpanan Anda. Simpan fakta, peristiwa, dan aturan di tempat yang berbeda.
  • Gunakan penjadwal (scheduler) untuk memori prospektif. Jangan gunakan penyimpanan vektor untuk hal-hal yang perlu terjadi pada tanggal tertentu.
  • Buat batasan tegas untuk memori parametrik. Gunakan model untuk penalaran, tetapi gunakan penyimpanan Anda sendiri untuk data yang fluktuatif seperti suku bunga atau aturan produk.

Kebanyakan agen saat ini hanyalah jendela konteks dan database vektor. Agen yang menang adalah agen yang dapat mengubah kesalahan kemarin menjadi aturan untuk besok.

Sumber: https://dev.to/shudiptotrafder/agent-memory-7-types-and-2-of-them-arent-memory-6oi

Komunitas belajar opsional: https://t.me/GyaanSetuAi