De Outer Agent Loop: AI-systemen bouwen in 2026
Software engineering is aan het veranderen.
De meest productieve engineers prompten modellen niet langer handmatig. Ze ontwerpen systemen die modellen voor hen prompten. Ze bouwen harnesses. Ze schrijven loops.
Om productie-waardige AI te bouwen, moet je het verschil begrijpen tussen twee loops:
De Inner Loop Deze bevindt zich binnen de modelcontext. De LLM roept een tool aan, krijgt een resultaat en herhaalt dit totdat hij denkt klaar te zijn. Het is krachtig, maar beperkt door context windows en attention drift.
De Outer Loop Dit is de harness. Deze bevindt zich buiten de modelcontext. Het is de code die je schrijft om de LLM te omhullen. Het bepaalt of het werk goed is, of er een nieuwe poging nodig is, of dat een mens moet ingrijpen.
Een outer loop van productieniveau heeft deze zes componenten nodig:
- Task Queues: Gebruik Redis of SQS om werk te beheren. Dit zorgt ervoor dat taken crashes overleven en maakt rate limiting mogelijk.
- Context Builders: Deze bereiden de system prompt en beperkingen voor. Slechte context leidt tot slechte iteraties.
- Session Management: Dit houdt de gespreksgeschiedenis bij, zodat de agent niet de draad kwijtraakt.
- Completion Signals: Je hebt een manier nodig om te weten wanneer je moet stoppen. Gebruik mechanische tests, JSON-parsing of een LLM-as-judge.
- Budget Enforcers: Stel harde limieten in voor iteraties en tokens om oneindige loops te voorkomen die geld verbranden.
- Committers: Dit is de grens die de uiteindelijke output naar een bestand of een pull request schrijft.
Gebruik LLM-as-judge voor taken die tests niet kunnen detecteren. Gebruik een snel, goedkoop model om de output van je dure reasoning model te evalueren. Dit is efficiënte compute-allocatie.
Pas op voor de valstrik van architectuurschuld.
LLM's proberen fouten vaak op te lossen door defensieve code toe te voegen, zoals try/except-blokken. Als een loop vele malen wordt uitgevoerd, kan dit je codebase vullen met rommelige fallbacks. Instrueer je agent in plaats daarvan om de hoofdoorzaak aan te pakken en systeem-invarianten te behouden.
Het doel is niet maximale autonomie. Het doel is het bouwen van loops die onderhoudbaar en begrijpelijk blijven voor mensen.
Bouw je loops doelbewust.
Optionele leercommunity: https://t.me/GyaanSetuAi
