Kebangkitan Kejuruteraan Agentic: Hutang Prompt
Menulis prompt dalam bahasa Inggeris biasa terasa seperti magis. Anda menaip apa yang anda mahukan, dan sebuah prototaip muncul. Namun bagi sistem jangka panjang, magis ini menjadi satu perangkap.
Anda berkemungkinan sedang mengumpul hutang prompt.
Hutang prompt berlaku apabila anda menggunakan bahasa tabii untuk mengawal model dan bukannya menggunakan kejuruteraan yang tepat. Ini mewujudkan tiga masalah besar:
- Iterasi menjadi perlahan. Anda menambah lebih banyak teks untuk membetulkan satu ralat, tetapi teks tersebut merosakkan perkara lain. Tidak lama kemudian, prompt anda menjadi kucar-kacir dengan arahan yang berulang-ulang.
- Pasukan anda hilang kawalan. Prompt yang dipenuhi dengan amaran huruf besar dan kes terpinggir (edge cases) mustahil untuk dibaca atau diuruskan oleh rakan sekerja.
- Anda terperangkap dengan satu model sahaja. Prompt yang ditala untuk satu model sering kali gagal pada versi yang lebih baharu dan lebih baik. Pasukan kekal terikat pada model lama yang mahal kerana mereka takut merosakkan sistem mereka.
Ini berlaku kerana anda sedang melawan "weights" (pemberat). Apabila model menentang arahan anda, anda mengulanginya. Setiap arahan yang diulang atau ditekankan adalah seperti tisu parut. Ia menunjukkan di mana latihan model tersebut sedang melawan niat anda.
Bahasa tabii terlalu tidak tepat untuk kejuruteraan. Perubahan kecil dalam pemilihan kata boleh mengubah tingkah laku model. Malah fakta yang tidak berkaitan dalam satu prompt boleh mengubah cara model bertindak balas.
Bagaimana anda mahu memperbaikinya?
Anda mesti berhenti menulis prompt secara manual dan mula menetapkan tingkah laku dengan ukuran.
- Prompt adalah satu perenggan yang anda harap akan diikuti oleh model.
- Metrik adalah satu kontrak yang mesti dipenuhi oleh model.
Masa depan kejuruteraan sedang beralih daripada "prompting" kepada "programming." Alatan seperti DSPy dan GEPA membolehkan anda menetapkan matlamat dan metrik. Sistem kemudian akan mencari prompt terbaik untuk mencapai matlamat tersebut.
Ini menukarkan prompting kepada satu artifak yang dikompil (compiled artifact). Jika model baharu yang lebih murah tiba, anda tidak perlu panik. Anda hanya perlu menjalankan metrik anda terhadap model baharu tersebut dan menjana semula prompt tersebut.
Sebagaimana jurutera beralih daripada bahasa pemasangan (assembly language) kepada pengkompil (compilers), jurutera AI mesti beralih daripada menala rentetan (strings) secara manual kepada mengoptimumkan metrik.
Berhenti memujuk model dengan kata-kata magis. Mula membina dengan spesifikasi yang boleh diukur.
Optional learning community: https://t.me/GyaanSetuAi