Kebanyakan ejen AI mempunyai daya ingatan yang cemerlang tetapi pertimbangan yang buruk tentang apa yang patut diingat semula. Mereka boleh menyerap ribuan halaman, namun tenggelam dalam konteks mereka sendiri kerana tiada siapa yang mengajar mereka untuk melupakan bahagian yang tidak relevan. Knowledge and Memory Management versi 0.0.2 dibina untuk menyelesaikan masalah tersebut. Ia bukan sekadar tampalan kecil. Ia memikirkan semula cara ejen menyimpan, menghantar, dan mengutamakan apa yang diketahui.

Masalah Memori

Ejen secara rutin menganggap setiap cebisan teks sebagai sesuatu yang suci. Halaman web mentah dimasukkan ke dalam storan bersama menu navigasi, sepanduk kuki, dan pautan kaki. Transkrip video tiba dengan setiap "um", cap masa, dan bacaan penaja yang masih utuh. Sesebuah artikel mungkin mengandungi lebih banyak penanda (markup) salinan iklan berbanding wawasan sebenar. Apabila pencarian (retrieval) berlaku, sistem perlu menyaring semua hingar ini untuk mencari isyarat. Pembaziran itu muncul di dua tempat: tetingkap konteks anda mengecil dengan sampah, dan bil infrastruktur anda meningkat kerana anda membayar untuk memproses dan menanam (embed) teks yang tidak bermakna.

Masalah penskalaan juga sama mengecewakannya. Kebanyakan ejen peringkat awal terikat pada satu mesin melalui laluan yang dikodkan secara keras (hardcoded paths). Pindahkan projek dari komputer riba anda ke pelayan, atau dari satu VPS ke VPS yang lain, dan anda akan menghabiskan waktu petang dengan melakukan grep pada fail konfigurasi untuk membaiki rujukan yang rosak. Ejen tersebut tidak lagi menjadi perisian, sebaliknya menjadi satu pemasangan seni yang rapuh yang hanya boleh wujud di dalam satu bilik.

Apa yang Berubah dalam V0.0.2

Versi ini menangani kedua-dua isu tersebut secara langsung. Ia memperkenalkan skema laluan mudah alih (portable pathing scheme) dan saluran ringkasan (summarization pipeline) bersepadu yang membersihkan pengetahuan sebelum ia sampai ke memori. Hasilnya ialah ejen yang lebih mudah dipindahkan dan lebih murah untuk dijalankan.

Anda berhenti bergelut dengan infrastruktur anda. Anda berhenti menyumbat dokumen yang kembang ke dalam konteks yang terhad. Ejen tersebut kini hanya mengingati dengan lebih baik.

Mudah Alih melalui Reka Bentuk dengan $AGENT_HOME

Perubahan yang paling praktikal adalah pengenalan pemboleh ubah persekitaran $AGENT_HOME. Setiap laluan yang disentuh oleh sistem—pangkalan pengetahuan, memori kerja, ringkasan cache, log sesi—diselesaikan secara relatif kepada akar (root) ini. Ini bermakna anda boleh memindahkan keseluruhan direktori ejen anda ke mana-mana sahaja tanpa menyentuh sebaris kod pun.

Pertimbangkan migrasi tipikal. Semalam ejen anda berada pada droplet DigitalOcean di /srv/ai-agent. Hari ini anda mahu menjalankannya secara tempatan atau menyerahkannya kepada rakan sepasukan. Sebelum ini, anda akan menemui laluan mutlak yang dikodkan secara keras yang bertaburan di seluruh konfigurasi JSON, skrip Python, dan pembungkus shell (shell wrappers). Anda perlu menggunakan sed pada berpuluh-puluh fail, berdoa, dan berharap anda berjaya menangkap setiap rujukan. Dengan versi 0.0.2, anda boleh melangkaui semua itu. Anda hanya salin folder tersebut, tetapkan export AGENT_HOME=/laluan/anda, dan jalankan. Skrip pengambilan (ingestion), indeks memori, dan lapisan pencarian (retrieval) semuanya selaras secara automatik kerana mereka bertanya kepada sistem operasi di mana lokasi "home" berbanding membuat andaian bahawa mereka sudah tahu.

Kebolehalihan ini penting melangkaui sekadar kemudahan. Ia menjadikan persediaan anda boleh dihasilkan semula (reproducible). Anda boleh menjejaki direktori pengetahuan anda dalam kawalan versi tanpa mencemarkan repositori dengan laluan yang hanya masuk akal pada mesin anda. Rakan sepasukan mengklon repo, menghalakan $AGENT_HOME ke sistem fail mereka sendiri, dan mengambil data mereka sendiri. Saluran CI anda boleh menjalankan ejen baharu, menetapkan satu pemboleh ubah, dan mengesahkan tingkah laku tanpa menulis semula konfigurasi untuk setiap persekitaran.

Jika anda menjalankan ejen sebagai perkhidmatan systemd, tambahkan pemboleh ubah tersebut ke dalam unit perkhidmatan. Jika anda mengkontainerkannya, masukkan ia dalam Dockerfile atau fail compose anda. Jika anda bekerja merentasi pelbagai shell, masukkan ia ke dalam .bashrc atau .zshrc supaya ia kekal. Persediaan ini sengaja dibuat membosankan kerana infrastruktur sepatutnya membosankan.

Tiga Sumber, Satu Saluran Pembersihan

Sistem ini mengambil pengetahuan daripada tiga saluran khusus:

  • Halaman web. Ia tiba dalam keadaan dibalut dengan boilerplate HTML. Kandungan sebenar mungkin hanya tiga ratus patah perkataan yang tersembunyi di dalam tiga ribu patah perkataan markup, navigasi, dan bahagian komen.
  • Transkrip video. Output pertuturan-ke-teks (speech-to-text) terkenal dengan sifatnya yang meleret. Kata pengisi (fillers), pengulangan, cap masa, dan sembang luar topik mencipta aliran kepadatan rendah yang menggunakan token tanpa memberikan sebarang wawasan.
  • Artikel. Formatnya sangat pelbagai. Sesetengahnya menerbitkan teks yang bersih. Yang lain merosakkan pengalaman pembacaan dengan iklan, kotak pendaftaran buletin, dan sematan (embed) media sosial.

Versi 0.0.2 tidak menganggap ini sebagai silo berasingan yang perlu dijaga rapi. Sebaliknya, ia menghalakan ketiga-tiganya melalui lapisan ringkasan yang sama sebelum ia memasuki memori kerja. Lapisan tersebut mengekstrak tuntutan, prosedur, titik data, dan hubungan. Ia membuang hingar yang biasanya akan diabaikan oleh manusia secara semula jadi.

Mengapa Peringkasan Adalah Strategi Penskalaan

Terdapat kecenderungan untuk melihat peringkasan sebagai ciri mewah, sesuatu yang bagus untuk dimiliki tetapi tidak penting. Itu salah. Bagi ejen model bahasa, peringkasan adalah keperluan penskalaan.

Tetingkap konteks mempunyai had. Bajet pengambilan semula mempunyai kos. Setiap token yang dihabiskan untuk sepanduk kuki atau bacaan penaja video adalah token yang tidak dapat anda gunakan untuk penaakulan. Apabila ejen anda menyediakan respons, ia tidak menjadi lebih pintar dengan adanya lebih banyak teks di sekelilingnya. Ia menjadi lebih pintar dengan adanya teks yang betul di sekelilingnya.

Dengan membuang hingar semasa masa pengambilan, sistem tersebut memampatkan isyarat. Ejen anda boleh merujuk set sumber yang lebih luas dalam bajet konteks yang sama. Sepuluh dokumen yang telah dimurnikan dapat dimuatkan di tempat yang dahulunya sukar untuk dua dokumen mentah. Kepadatan itulah yang membolehkan ejen berkembang daripada prototaip mainan yang menguruskan lima sumber kepada sistem pengeluaran yang menguruskan ratusan sumber. Jejak memori kekal terkawal. Kualiti pengambilan semula bertambah baik kerana pertindihan yang tidak relevan hilang. Kos token menurun kerana anda berhenti membayar untuk menyemat (embed) dan membuat pertanyaan (query) pada teks templat (boilerplate).

Ini bukan tentang mampatan hilang (lossy compression) yang agresif yang membuang nuansa. Ia adalah tentang pertimbangan editorial yang dikodkan ke dalam saluran paip (pipeline). Ringkasan tersebut mengekalkan butiran teknikal, entiti bernama, pautan kausal, dan langkah-langkah instruksional. Ia membuang sisa format dan pelapik perbualan.

Bermula

Tetapan ini sengaja dibuat seminimal mungkin kerana sistem ini bertujuan untuk tidak mengganggu kerja anda.

Buka terminal anda dan tetapkan laluan akar:

export AGENT_HOME=/your/path

Jadikan ini kekal dengan menambah baris tersebut ke profil shell anda, atau suntikkannya ke dalam mana-mana lapisan orkestrasi yang menjalankan ejen anda. Pastikan struktur direktori kekal konsisten di bawahnya. Ejen tersebut menjangkakan folder-foldernya—sama ada anda menamakannya knowledge/, memory/, summaries/, atau yang lain—berada secara relatif kepada akar tersebut. Sebaik sahaja pemboleh ubah tersebut aktif, halakan ejen ke halaman web, transkrip, dan artikel anda. Saluran paip pengambilan dan peringkasan akan menguruskan selebihnya.

Jika anda sedang berpindah dari versi terdahulu, prosesnya adalah sama mudahnya. Pindahkan data sedia ada anda ke dalam hierarki $AGENT_HOME yang baharu, kemas kini pemboleh ubah tersebut, dan sahkan bahawa ejen menyelesaikan laluan dengan betul. Tiada skrip migrasi. Tiada perubahan skema pangkalan data. Hanya satu sumber kebenaran tunggal untuk lokasi ejen berada di dalam cakera.

Intipati Sebenar

Pengurusan memori yang lebih baik bukan tentang mengumpul lebih banyak data. Ia adalah tentang mengurus data yang anda sudah miliki. Versi 0.0.2 menganggap kebolehalihan dan peringkasan sebagai keutamaan utama dan bukannya sekadar fikiran sampingan. Anda mendapat kebebasan untuk memindahkan ejen anda antara mesin tanpa merosakkan apa-apa, dan anda mendapat kecekapan tetingkap konteks yang benar-benar mengandungi konteks.

Tetapkan direktori utama anda. Berikan ejen sumber yang sebenar. Biarkan sistem membuang segala sampah. Anda akan meluangkan kurang masa menyahpepijat (debugging) ralat laluan dan kurang wang memproses hingar, serta lebih banyak masa menggunakan apa yang telah dipelajari oleh ejen tersebut.

Sumber: https://dev.to/mage0535/thinking-1-analyze-the-request-12go

Komuniti: https://t.me/GyaanSetuAi