Kebangkitan Agentic Engineering: Prompt Debt
Menulis prompt dalam bahasa Inggris biasa terasa seperti sihir. Anda mengetik apa yang Anda inginkan, dan sebuah prototipe muncul. Namun untuk sistem jangka panjang, sihir ini menjadi jebakan.
Anda kemungkinan sedang menumpuk prompt debt.
Prompt debt terjadi ketika Anda menggunakan bahasa alami untuk mengontrol model alih-alih menggunakan rekayasa (engineering) yang presisi. Ini menciptakan tiga masalah besar:
- Iterasi melambat. Anda menambahkan lebih banyak teks untuk memperbaiki satu kesalahan, tetapi teks tersebut merusak hal lain. Tak lama kemudian, prompt Anda menjadi tumpukan instruksi yang berulang-ulang.
- Tim Anda kehilangan kendali. Prompt yang dipenuhi dengan peringatan huruf kapital semua dan kasus ekstrem (edge cases) mustahil untuk dibaca atau dikelola oleh rekan kerja.
- Anda terkunci pada satu model. Prompt yang disetel untuk satu model sering kali gagal pada versi yang lebih baru dan lebih baik. Tim tetap terjebak pada model lama yang mahal karena mereka takut merusak sistem mereka.
Ini terjadi karena Anda sedang melawan bobot (weights). Ketika sebuah model menolak instruksi Anda, Anda mengulanginya. Setiap instruksi yang diulang atau ditekankan adalah jaringan parut (scar tissue). Ini menunjukkan di mana pelatihan model tersebut melawan niat Anda.
Bahasa alami terlalu tidak presisi untuk rekayasa (engineering). Perubahan kecil dalam pemilihan kata dapat mengubah perilaku model. Bahkan fakta yang tidak terkait dalam sebuah prompt dapat mengubah cara model merespons.
Bagaimana cara memperbaikinya?
Anda harus berhenti menulis prompt secara manual dan mulai menentukan perilaku dengan pengukuran.
- Sebuah prompt adalah sebuah paragraf yang Anda harapkan diikuti oleh model.
- Sebuah metrik adalah kontrak yang harus dipenuhi oleh model.
Masa depan rekayasa (engineering) sedang beralih dari "prompting" ke "programming." Alat seperti DSPy dan GEPA memungkinkan Anda menentukan tujuan dan metrik. Sistem kemudian mencari prompt terbaik untuk mencapai tujuan tersebut.
Ini mengubah prompting menjadi artefak yang terkompilasi (compiled artifact). Jika model baru yang lebih murah hadir, Anda tidak perlu panik. Anda cukup menjalankan metrik Anda terhadap model baru tersebut dan menghasilkan ulang prompt-nya.
Sama seperti para insinyur yang beralih dari bahasa assembly ke kompiler, insinyur AI harus beralih dari penyetelan string secara manual ke pengoptimalan metrik.
Berhentilah membujuk model dengan kata-kata ajaib. Mulailah membangun dengan spesifikasi yang terukur.
Optional learning community: https://t.me/GyaanSetuAi