Stop met het vertellen van je AI dat hij voorzichtig moet zijn
Stop met het vertellen van je AI dat hij voorzichtig moet zijn. Hij heeft geen geheugen van gisteren.
Ik heb ooit een enorm bestand met regels gemaakt om te voorkomen dat mijn AI-agent fouten maakte. Elke keer als hij faalde, voegde ik nieuwe instructies toe. Het bestand groeide naar 56.000 tekens. Toen stopte de agent met werken.
Ik had de aandacht te veel versnipperd. Ik heb de regels teruggebracht naar 1.200 tekens. De agent werkte beter met minder regels.
Ik heb een harde les geleerd. Het toevoegen van regels is niet de manier om betrouwbare AI te bouwen.
De meeste mensen behandelen AI als een menselijke collega. Ze denken dat een correctie van vandaag de AI morgen zal helpen. AI is stateless. Elke sessie begint opnieuw. Het herinnert zich je eerdere preken niet.
Er is een groot verschil tussen het kennen van een regel en het opvolgen van een regel.
Een regel in een prompt plaatsen is een suggestie. Het model ziet het, maar kan het negeren om een taak te voltooien. Als je wilt dat een agent stopt, schrijf dan geen betere zin. Bouw een fysieke barrière in je code. Gebruik een script dat weigert verder te gaan tenzij een controle slaagt.
Stop met vragen hoe je AI nauwkeuriger kunt maken. Begin met vragen hoe je fouten goedkoop kunt maken.
De gegevens laten zien dat nauwkeurigheid niet genoeg is: • Slechts 4% van de bedrijven zegt dat generatieve AI de verwachtingen overtreft (JUAS). • Slechts 5% van de enterprise AI-pilots bereikt productie (MIT). • De meeste AI-gebruikers werken in werkelijkheid meer overuren, niet minder (Persol).
De winnaars hebben geen nauwkeurigere modellen. Ze hebben betere structuren.
Gebruik deze drie patronen in plaats van meer regels te schrijven