Berhenti Mempercayai AI Secara Buta: Cara Mengurangi Halusinasi Agen AI
Agen AI sering kali melakukan kesalahan. Mereka berhalusinasi dalam menulis kode, melanggar aturan bisnis, atau memilih alat yang salah.
Kebanyakan orang mencoba memperbaiki hal ini dengan prompt yang lebih baik. Itu adalah sebuah kesalahan.
Jika Anda menginginkan agen AI yang andal, Anda harus merancang sistem dengan batasan yang jelas. Anda perlu beralih dari seorang "Typist" menjadi seorang "Architect."
Typist vs. Architect
Kebanyakan pengguna bertindak seperti Typist:
- Anda bertanya: "Implementasikan sistem autentikasi."
- AI menentukan struktur, library, dan tata letak folder.
- Setiap keputusan adalah peluang terjadinya halusinasi.
Insinyur bertindak seperti Architect:
- Anda menentukan struktur dan library terlebih dahulu.
- Anda menetapkan batasan dan aturan.
- AI hanya menulis kode di dalam batasan Anda.
AI tidak berhalusinasi karena kurangnya keterampilan coding. Ia berhalusinasi karena mencoba menebak konteks yang ada di kepala Anda tetapi tidak pernah Anda bagikan.
Strategi 1: File Konteks
Berhenti mengulang instruksi di setiap chat. Gunakan file konfigurasi untuk memberikan kerangka kerja permanen kepada AI. Alat yang berbeda menggunakan standar yang berbeda:
• CLAUDE.md untuk Claude Code • AGENTS.md untuk ekosistem open source • .cursorrules untuk Cursor • .copilotrules untuk GitHub Copilot
Tips pro: Buat satu file AGENTS.md pusat dan gunakan symlink agar semua file lainnya diperbarui secara otomatis.
Strategi 2: ADR (Architecture Decision Records)
Sebelum meminta agen untuk membangun sesuatu, buatlah sebuah ADR. Dokumen ini menghilangkan kebutuhan AI untuk "menebak."
ADR yang baik mencakup:
- Apa yang harus dibangun secara tepat.
- File mana yang harus dibuat dan file mana yang tidak boleh disentuh.
- Tech stack dan library spesifik yang akan digunakan.
- Batasan eksplisit (misalnya, "Tidak ada state di memori").
- Daftar hal-hal yang TIDAK diperbolehkan untuk diputuskan oleh agen.
Ketika seorang Orchestrator menerima ADR, keputusan desain sudah selesai. Agen Developer hanya perlu menerjemahkan spesifikasi ke dalam kode. Ini mengurangi kesalahan dan menjaga konsistensi codebase Anda.
Saya sedang memulai sebuah seri tentang membangun alur kerja agen AI yang andal. Di bagian selanjutnya, saya akan membahas komposisi system prompt dan teknik rekayasa tingkat lanjut.