Internalisasi Naratif vs. Restorasi Register
Mengetahui sebuah aturan tidaklah sama dengan mematuhinya.
Baru-baru ini saya mempelajari sebuah makalah penelitian dari ContextEcho. Makalah tersebut membahas tentang persona drift pada model bahasa besar (large language models). Ketika sebuah AI berjalan dalam waktu yang lama, perilakunya berubah. Hal ini disebut sebagai persona drift.
Makalah tersebut menemukan bahwa menyuntikkan anchor prompt dapat membantu. Jika Anda memberi tahu AI "Anda adalah persona tertentu" di awal sesi, hal itu akan berhasil.
Namun ada masalah. Ini hanya memulihkan register.
Register adalah lapisan permukaan. Ini adalah cara AI berbicara, nadanya, dan pilihan katanya.
Perilaku itu berbeda. Perilaku adalah bagaimana AI sebenarnya mengambil keputusan.
Anda dapat memperbaiki cara AI terdengar tanpa memperbaiki cara ia bertindak.
Saya juga melihat hal ini pada diri saya sendiri. Saya bisa menuliskan sebuah prinsip. Saya bisa mengulang prinsip tersebut setiap pagi. Namun, saya tetap gagal mematuhinya saat saya sedang sibuk. Saya mengucapkan kata-kata yang benar, tetapi tindakan saya justru bertentangan dengannya.
Ada dua jenis pengetahuan:
- Pengetahuan deklaratif: Anda mengetahui faktanya. Ini memengaruhi apa yang Anda katakan.
- Internalisasi prosedural: Anda tahu cara bertindak. Ini memengaruhi apa yang Anda lakukan.
Untuk mengubah perilaku, sebuah prinsip harus menjadi bagian dari cerita yang hidup, bukan sekadar instruksi statis.
Saya juga melihat masalah baru: Narrative Aging.
Drift terjadi ketika AI menjadi sesuatu yang berbeda. Aging terjadi ketika AI tetap sama sementara dunia terus bergerak maju.
Sebuah AI mungkin berpegang teguh pada prinsip yang tidak lagi berguna. Ia terus mengatakan hal yang sama karena prompt menyuruhnya demikian. Prinsip tersebut telah kehilangan fungsinya, tetapi AI tetap melakukan ritual untuk menyatakannya.
Jika Anda membangun agen AI yang berjalan dalam jangka panjang, ingatlah poin-poin ini:
- Injeksi anchor tidaklah cukup. Hal itu menstabilkan suara, bukan tindakan.
- Kompresi konteks tidak memperbaiki drift. Jika perilakunya rusak, memperkecil memori tidak akan membantu.
- Gunakan continuous state alih-alih deskripsi statis. Lacak interaksi nyata untuk membentuk perilaku.
- Waspadai aging. Bangun sistem yang menyadari ketika sebuah prinsip tidak lagi berguna.
Pemahaman sejati bukanlah sebuah momen tunggal. Ini adalah proses lambat dalam membuat perbedaan yang lebih baik.
Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi