Ejen AI: Memori lwn. Pengetahuan

Kebanyakan ejen AI hanya mempunyai memori. Memori bermaksud mereka mengingati nama atau pilihan anda. Ini tidak mencukupi.

Untuk memberi nilai sebenar, sesebuah ejen memerlukan pengetahuan.

Memori adalah "Saya telah melihat ini." Pengetahuan adalah "Saya boleh menggunakan ini."

Kebanyakan rangka kerja menggunakan context caching. Ia menyimpan log sembang atau pasangan kunci-nilai (key-value pairs) yang ringkas. Ini bukanlah sebuah pangkalan pengetahuan. Ejen yang hanya mempunyai memori tidak dapat belajar daripada laman web, video, atau buku teknikal. Ia kekurangan lapisan pengumpulan (collection layer).

Bina ejen anda dengan tiga lapisan ini:

  • Lapisan Pengumpulan (Collection Layer): Menarik data daripada halaman web, video, dokumen, dan buku.
  • Lapisan Analisis (Analysis Layer): Menggunakan AI untuk merumuskan, mengekstrak kata kunci, dan menyemak fakta.
  • Lapisan Penyimpanan (Storage Layer): Menyusun data kepada tiga peringkat.

Tiga peringkat penyimpanan berfungsi seperti berikut:

  • Peringkat Panas (Hot Tier) (Hermes Memory Tool): Menggunakan kelajuan nanosaat untuk pengambilan kunci-nilai yang tepat.
  • Peringkat Suam (Warm Tier) (Hindsight Vector DB): Menggunakan kelajuan milisaat untuk keserupaan semantik.
  • Peringkat Sejuk (Cold Tier) (gbrain Knowledge Graph): Menggunakan kelajuan saat untuk penaakulan dan pautan yang kompleks.

Apabila anda membuat carian, sistem akan mengikut laluan sandaran (fallback path). Ia bermula dengan FTS5. Jika gagal, ia beralih ke Hindsight. Jika gagal, ia beralih ke gbrain. Ini menjimatkan token LLM anda dengan berhenti sebaik sahaja padanan ditemui.

Contoh aliran kerja untuk video:

  1. Muat turun video melalui yt-dlp.
  2. Tukar pertuturan kepada teks melalui Whisper.
  3. Ekstrak teks daripada bingkai menggunakan OCR.
  4. Gunakan LLM untuk mencipta rumusan berstruktur.
  5. Simpan ke dalam knowledge graph.

Satu arahan boleh mencetuskan keseluruhan rantaian ini.

Berhenti membina ejen yang hanya mengingati apa yang anda katakan. Bina ejen yang menyerap maklumat daripada dunia. Apabila ejen menghubungkan data web baharu dengan pengetahuan sedia ada anda, ia mula benar-benar memahami.

Sumber: https://dev.to/manoir_yantai_f22f01340f0/ai-dai-li-de-ji-yi-kun-jing-cong-ji-zhu-dao-zhi-dao--2g9n

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi