𝗖𝗼𝗻𝘁𝗲𝘅𝘁 𝗘𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝗶𝗻𝗴 𝗳𝗼𝗿 𝗣𝗿𝗼𝗺𝗽𝘁 𝗘𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝘀
Orang-orang bilang prompt engineering sudah mati. Mereka bilang context engineering telah menggantikannya. Ini salah.
Prompt engineering hanyalah salah satu bagian dari context engineering. Prompting adalah apa yang Anda katakan. Context engineering adalah segala sesuatu yang dilihat oleh model. Ini mencakup system prompt, definisi tool, dokumen yang diambil (retrieved documents), dan memori.
Prompt Anda hanyalah satu kepingan dari teka-teki yang lebih besar. Area permukaannya kini menjadi lebih luas.
Jangan mencoba menggunakan context window yang masif untuk menyelesaikan segalanya. Jendela satu juta token tidak berarti satu juta token perhatian yang berguna. Input yang lebih banyak justru dapat membuat performa model menurun.
Anda harus mewaspadai dua masalah utama:
• Lost in the middle: Model fokus paling baik pada bagian awal dan akhir prompt. Mereka kesulitan ketika data penting berada di tengah. • Context rot: Penalaran dan recall menurun seiring bertambahnya panjang input. Bahkan tugas sederhana pun menjadi lebih sulit bagi model ketika jendela konteks sudah penuh.
Tujuannya adalah menemukan set token sinyal tinggi terkecil yang dapat menyelesaikan pekerjaan. Perlakukan context window Anda seperti sebuah anggaran.
Gunakan enam pola ini untuk mengelola anggaran Anda:
• Attention budgeting: Potong semua teks boilerplate dan redundan. Gunakan hanya konten dengan sinyal tinggi. • Retrieval placement: Letakkan data yang relevan di awal atau di akhir. Hindari menempatkan informasi kritis di tengah. • Tool-result formatting: Kembalikan data yang diringkas. Jangan memasukkan objek API yang besar ke dalam jendela konteks. • Schema design: Gunakan output terstruktur. Jaga tingkat nesting tetap rendah untuk mencegah kesalahan. • System vs. turn separation: Simpan aturan inti dalam system prompt. Simpan data spesifik dalam user turns. • Memory and compaction: Simpan state di luar jendela konteks. Ringkas data lama untuk menjaga alur percakapan tetap berjalan.
Context engineering bukan sekadar RAG. Ini adalah tentang penempatan dan pengendalian diri. Jika Anda sudah mahir melakukan prompting, Anda tidak mulai dari nol. Anda sedang belajar mengelola anggaran yang dihabiskan oleh prompt Anda.
Sumber: https://dev.to/anoopk/context-engineering-for-people-who-already-know-how-to-prompt-2pj1
Komunitas belajar opsional: https://t.me/GyaanSetuAi