Rekayasa Konteks AI: Mengapa Prompt Saja Tidak Cukup

Dua tahun lalu, semua orang membicarakan tentang rekayasa prompt (prompt engineering).

Orang-orang membagikan prompt untuk menulis kode atau bertindak seperti ahli. Idenya sederhana: prompt yang lebih baik menghasilkan hasil yang lebih baik.

Namun, para insinyur yang membangun produk AI nyata menemukan sebuah kebenaran. Prompt hanyalah satu bagian dari teka-teki tersebut.

Alat AI modern seperti Claude, Cursor, atau GitHub Copilot tidak hanya mengandalkan satu prompt tunggal. Mereka menggunakan Rekayasa Konteks (Context Engineering).

Rekayasa prompt bertanya: "Apa yang harus saya tanyakan kepada model?"

Rekayasa konteks bertanya: "Informasi apa yang dibutuhkan model agar dapat menjawab dengan baik?"

Bayangkan seorang pengembang. Jika Anda mengatakan "aplikasinya rusak," mereka tidak dapat membantu Anda. Mereka akan mengajukan banyak pertanyaan.

Jika Anda memberikan log kesalahan (error logs), stack traces, dan deployment terbaru, mereka akan memperbaikinya dengan cepat. Mereka tidak menjadi lebih pintar. Anda memberi mereka konteks yang lebih baik.

AI bekerja dengan cara yang sama.

Jika Anda meminta kueri SQL kepada AI, ia mungkin hanya menebak. Jika Anda memberinya nama tabel, tipe kolom, dan aturan spesifik, jawabannya menjadi akurat. Prompt-nya tetap sederhana, tetapi konteksnya berubah.

Dalam sistem AI produksi, model menerima jauh lebih banyak daripada sekadar teks Anda. Model tersebut sering kali menerima:

  • Instruksi sistem
  • Riwayat percakapan
  • Rekaman basis data
  • File proyek
  • Output alat

Asisten pengkodean AI tahu apa yang Anda bicarakan karena ia melihat file yang terbuka dan struktur folder Anda. Anda mengetik empat kata, tetapi model menerima ribuan token data.

Berhentilah menghabiskan waktu berjam-jam untuk mengubah susunan kata dalam sebuah prompt. Sebaliknya, tanyakan pada diri sendiri: "Informasi apa yang belum dimiliki oleh model tersebut?"

Menyediakan dokumentasi, skema API, atau aturan bisnis yang lebih baik bekerja lebih efektif daripada mencari prompt "ajaib".

Rekayasa konteks adalah tentang memberikan data yang tepat kepada model pada waktu yang tepat.

Di Bagian 2, saya akan membahas:

  • Jendela konteks (context windows) dan token
  • Mengapa konteks yang lebih banyak tidak selalu lebih baik
  • Bagaimana memori bekerja dalam AI

Sistem AI yang hebat bergantung pada data di balik layar, bukan hanya kata-kata yang Anda ketik.

Sumber: https://dev.to/fazal_mansuri_/ai-context-engineering-why-great-ai-systems-need-more-than-great-prompts-part-1-25dd

Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi