Vertrouw AI niet blindelings: Hoe je hallucinaties van AI-agenten vermindert
AI-agenten maken vaak fouten. Ze hallucineren code, schenden bedrijfsregels of kiezen de verkeerde tools.
De meeste mensen proberen dit op te lossen met betere prompts. Dat is een fout.
Als je betrouwbare AI-agenten wilt, moet je systemen ontwerpen met duidelijke beperkingen. Je moet evolueren van een "Typist" naar een "Architect".
De Typist vs. de Architect
De meeste gebruikers handelen als Typists:
- Je vraagt: "Implementeer een authenticatiesysteem."
- De AI bepaalt de structuur, de libraries en de mappenindeling.
- Elke individuele beslissing is een kans op een hallucinatie.
Engineers handelen als Architects:
- Je definieert eerst de structuur en de libraries.
- Je stelt de beperkingen en de regels vast.
- De AI schrijft alleen de code binnen jouw kaders.
De AI hallucineert niet omdat het een gebrek aan programmeervaardigheden heeft. Het hallucineert omdat het probeert de context te raden die jij in je hoofd hebt, maar nooit hebt gedeeld.
Strategie 1: Contextbestanden
Stop met het herhalen van instructies in elke chat. Gebruik configuratiebestanden om de AI een permanent kader te geven. Verschillende tools gebruiken verschillende standaarden:
• CLAUDE.md voor Claude Code • AGENTS.md voor open-source ecosystemen • .cursorrules voor Cursor • .copilotrules voor GitHub Copilot
Pro-tip: Maak één centraal AGENTS.md-bestand aan en gebruik symlinks, zodat alle andere bestanden automatisch worden bijgewerkt.
Strategie 2: ADR (Architecture Decision Records)
Voordat je een agent vraagt om iets te bouwen, maak je een ADR aan. Dit document neemt de noodzaak voor de AI weg om te "raden".
Een goede ADR bevat:
- Precies wat er gebouwd moet worden.
- Welke bestanden moeten worden aangemaakt en welke bestanden nooit aangeraakt mogen worden.
- De specifieke tech stack en libraries die gebruikt moeten worden.
- Expliciete beperkingen (bijv. "Geen state in het geheugen").
- Een lijst met zaken waarover de agent NIET mag beslissen.
Wanneer een Orchestrator een ADR ontvangt, staan de ontwerpbeslissingen al vast. De Developer-agent vertaalt de specificatie simpelweg naar code. Dit vermindert fouten en houdt je codebase consistent.
Ik begin een serie over het bouwen van betrouwbare AI-agent workflows. In de volgende delen zal ik ingaan op de compositie van system prompts en geavanceerde engineeringtechnieken.