Stop Mempercayai AI Secara Membuta Tuli: Cara Mengurangkan Halusinasi Ejen AI
Ejen AI sering melakukan kesilapan. Mereka menghalusinasi kod, melanggar peraturan perniagaan, atau memilih alatan yang salah.
Kebanyakan orang cuba membetulkan perkara ini dengan prompt yang lebih baik. Itu adalah satu kesilapan.
Jika anda mahukan ejen AI yang boleh dipercayai, anda mesti mereka bentuk sistem dengan kekangan yang jelas. Anda perlu beralih daripada menjadi seorang "Typist" kepada seorang "Architect."
The Typist vs. The Architect
Kebanyakan pengguna bertindak seperti Typist:
- Anda bertanya: "Laksanakan sistem pengesahan."
- AI menentukan struktur, perpustakaan, dan susun atur folder.
- Setiap keputusan adalah peluang untuk berlakunya halusinasi.
Jurutera bertindak seperti Architect:
- Anda menentukan struktur dan perpustakaan terlebih dahulu.
- Anda menetapkan kekangan dan peraturan.
- AI hanya menulis kod dalam sempadan yang anda tetapkan.
AI tidak berhalusinasi kerana ia kurang kemahiran pengekodan. Ia berhalusinasi kerana ia cuba meneka konteks yang ada dalam fikiran anda tetapi tidak pernah dikongsikan.
Strategy 1: Context Files
Berhenti mengulang arahan dalam setiap sembang. Gunakan fail konfigurasi untuk memberikan rangka kerja kekal kepada AI. Alatan yang berbeza menggunakan piawaian yang berbeza:
• CLAUDE.md untuk Claude Code • AGENTS.md untuk ekosistem sumber terbuka • .cursorrules untuk Cursor • .copilotrules untuk GitHub Copilot
Tip Pro: Cipta satu fail AGENTS.md pusat dan gunakan symlink supaya semua fail lain dikemas kini secara automatik.
Strategy 2: ARD (Architecture Decision Records)
Sebelum meminta ejen membina sesuatu, cipta satu ADR. Dokumen ini menghapuskan keperluan untuk AI "meneka."
ADR yang baik merangkumi:
- Apa yang perlu dibina secara tepat.
- Fail mana yang perlu dicipta dan fail mana yang tidak boleh disentuh sama sekali.
- Tech stack dan perpustakaan khusus yang perlu digunakan.
- Kekangan eksplisit (contohnya, "Tiada state dalam memori").
- Senarai perkara yang ejen TIDAK dibenarkan untuk putuskan.
Apabila seorang Orchestrator menerima ADR, keputusan reka bentuk telah pun selesai. Ejen Developer hanya perlu menterjemah spesifikasi tersebut ke dalam kod. Ini mengurangkan ralat dan mengekalkan konsistensi codebase anda.
Saya sedang memulakan satu siri tentang membina aliran kerja ejen AI yang boleh dipercayai. Dalam bahagian seterusnya, saya akan membincangkan komposisi prompt sistem dan teknik kejuruteraan lanjutan.