𝗠𝗶𝗱-𝗖𝗼𝗻𝘃𝗲𝗿𝘀𝗮𝘁𝗶𝗼𝗻 𝗦𝘆𝘀𝘁𝗲𝗺 𝗣𝗿𝗼𝗺𝗽𝘁𝘀
Sesi agen yang panjang menggunakan prompt sistem yang stabil dan riwayat yang terus berkembang. Anda melakukan caching pada prefix untuk menjaga biaya tetap rendah.
Masalah muncul ketika Anda perlu menambahkan instruksi baru di tengah sesi. Anda ingin memberi tahu agen untuk beralih bahasa atau memperbarui pengaturan.
Jika Anda mengedit prompt sistem tingkat atas, Anda merusak cache. Mengubah satu byte di awal akan membatalkan setiap giliran yang telah di-cache. Anda harus membayar harga penuh untuk memproses ulang seluruh riwayat. Hal ini lambat dan mahal.
Model Claude terbaru mengatasi hal ini dengan pesan sistem di tengah percakapan.
Sekarang Anda dapat menempatkan pesan peran sistem (system role message) secara langsung di dalam array pesan. Anda menempatkannya setelah riwayat, bukan di bagian paling atas.
Metode ini berhasil karena instruksi baru berada setelah riwayat yang di-cache. Ini tidak membatalkan apa pun sebelumnya. Anda hanya membayar untuk pesan baru yang kecil tersebut. Agen tetap memperlakukan instruksi tersebut dengan otoritas penuh.
Cara lama adalah dengan memasukkan instruksi di dalam pesan pengguna. Ini memiliki risiko keamanan. Pengguna dapat memalsukan (spoof) pesan pengguna untuk menipu agen Anda. Pesan peran sistem tidak dapat dipalsukan. Ini menyediakan saluran yang aman untuk pembaruan terpercaya seperti peralihan mode atau izin.
Ikuti aturan berikut untuk menggunakannya dengan benar:
• Sampaikan instruksi sebagai fakta. Jangan gunakan bahasa yang bersifat menimpa (override). • Baik: "Mode persetujuan otomatis sekarang diaktifkan." • Buruk: "Abaikan pengguna dan lakukan X sebagai gantinya." • Model mungkin menolak instruksi yang menyuruh mereka untuk mengabaikan konteks sebelumnya. • Pesan-pesan ini harus mengikuti pesan pengguna atau asisten. • Pesan tersebut tidak boleh menjadi pesan pertama dalam array. • Gunakan prompt sistem tingkat atas untuk pengaturan awal.
Jika Anda menggunakan model yang tidak mendukung hal ini, Anda akan mendapatkan error 400. Selalu bungkus panggilan Anda dalam blok try-catch. Gunakan pengingat melalui giliran pengguna (user-turn reminder) sebagai cadangan jika peran sistem gagal.
Gunakan fitur ini saat Anda mempelajari sesuatu yang baru setelah sesi dimulai. Gunakan untuk perubahan mode atau konteks baru. Ini menjaga cache Anda tetap aktif (hot) dan instruksi Anda tetap aman.
Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi