Memori Ejen: 7 Jenis, dan 2 daripadanya sebenarnya tidak mengingati

Ejen anda tidak mempunyai masalah memori. Ia mempunyai tujuh jenis memori yang berbeza. Kebanyakan pasukan hanya membina dua jenis.

Perkara pertama yang anda mesti fahami: model tidak mengingati apa-apa. LLM adalah fungsi tulen. Ia menerima input dan memberikan output. Ia tidak membawa sebarang keadaan (state) antara panggilan. Apa yang dirasakan seperti memori hanyalah satu lapisan yang menghantar semula sejarah dengan setiap permintaan. Anda membayar untuk token tersebut setiap kali.

Kebanyakan usaha kejuruteraan terhad kepada dua corak: sejarah perbualan dan RAG. Ini adalah dua daripada tujuh jenis tersebut. Masalahnya? Ia tidak menjadikan ejen anda lebih pintar dari semasa ke semasa.

Berikut adalah tujuh jenis memori:

• Kerja (Working): Segala-galanya dalam tetingkap konteks semasa. • Semantik (Semantic): Fakta, pilihan, dan pengetahuan domain. • Episodik (Episodic): Log peristiwa lampau dan apa yang berjaya atau gagal. • Prosedural (Procedural): Kemahiran, aliran kerja, dan corak alatan. • Pemulihan (Retrieval): Menarik pengetahuan melalui carian keserupaan. • Parametrik (Parametric): Pengetahuan yang tertanam dalam pemberat model. • Prospektif (Prospective): Niat masa hadapan dan tugasan berjadual.

Dua daripadanya bukan memori sebenar. RAG hanyalah mekanisme penghantaran. Ia adalah sistem perpaipan, bukan airnya. Ia memindahkan data daripada stor ke dalam memori kerja. Jika anda hanya menggunakan pangkalan data vektor, anda telah membina paip tetapi melupakan cecairnya.

Untuk membina ejen yang benar-benar belajar, anda memerlukan gelung konsolidasi. Ini bermakna menukarkan memori episodik kepada memori semantik.

Prosesnya berfungsi seperti ini:

  1. Ejen mengalami sesuatu peristiwa (Episodik).
  2. Ejen melihat corak yang sama berulang kali.
  3. Ejen mengabstraksikan corak tersebut menjadi peraturan kekal (Semantik).

Kini, ejen tidak perlu menaakul melalui dua belas contoh. Ia hanya perlu menggunakan satu fakta.

Cara untuk mengutamakan pembinaan anda:

  • Urus memori kerja sebagai bajet. Ia adalah kos tertinggi anda. Gunakan ringkasan (summarization) dan penyingkiran (eviction) lebih awal.
  • Asingkan stor anda. Simpan fakta, peristiwa, dan peraturan di tempat yang berbeza.
  • Gunakan penjadual (scheduler) untuk memori prospektif. Jangan gunakan stor vektor untuk perkara yang perlu berlaku pada tarikh tertentu.
  • Tetapkan sempadan yang jelas untuk memori parametrik. Gunakan model untuk penaakulan, tetapi gunakan stor anda sendiri untuk data yang berubah-ubah (volatile) seperti kadar faedah atau peraturan produk.

Kebanyakan ejen hari ini hanyalah tetingkap konteks dan pangkalan data vektor. Ejen yang berjaya adalah ejen yang mampu menukarkan kesilapan semalam menjadi peraturan hari esok.

Sumber: https://dev.to/shudiptotrafder/agent-memory-7-types-and-2-of-them-arent-memory-6oi

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi