Construcción de agentes de IA que no alucinan
La mayoría de los agentes de IA fallan en producción. Inventan nombres de funciones. Adivinan parámetros incorrectos. Llaman a las herramientas equivocadas.
Se supone que la llamada a funciones (function calling) debe evitar esto. En realidad, a menudo hace que los agentes se equivoquen con total seguridad a gran escala.
No necesitas modelos más grandes para solucionar esto. Necesitas una mejor arquitectura.
Sigue estos cuatro patrones para construir agentes fiables:
Usa un enrutador de dos etapas No le pases 15 herramientas a un modelo a la vez. Esto provoca una saturación del esquema (schema bloat). En su lugar, utiliza primero un modelo rápido y económico para clasificar la intención. Una vez que conozcas la intención, muestra solo las herramientas relevantes. Esto reduce los errores entre un 60 % y un 70 %.
Aplica salidas estructuradas Deja de pedirle a los modelos que devuelvan un JSON válido mediante prompts. Utiliza la aplicación de esquemas (schema enforcement) a nivel de API. Un esquema siempre gana a un prompt de 500 palabras. Garantiza que el modelo siga tus reglas.
Construye capas de validación Cada llamada a una herramienta necesita tres pasos:
- Prevalidación
- Ejecución del modelo
- Postvalidación
Si una llamada a una herramienta falla la validación, devuelve el error al modelo. Los modelos corrigen sus propios errores de parámetros el 80 % de las veces en el segundo intento.
- Establece límites estrictos Los bucles infinitos agotan tu presupuesto. Un modelo podría llamar a las herramientas en un bucle hasta que se produzca un tiempo de espera (timeout). Establece siempre un recuento máximo de iteraciones. Los límites estrictos son un requisito, no una opción.
Optimiza tus costes utilizando diferentes modelos para diferentes tareas:
- Usa modelos pequeños para el enrutamiento de intenciones y el formateo de salidas.
- Usa modelos de nivel medio para la selección de herramientas.
- Usa modelos de vanguardia (frontier models) solo para la planificación compleja.
Este enfoque reduce los costes de 10 a 15 veces con casi ninguna pérdida de calidad.
La IA fiable consiste en el diseño de sistemas. Céntrate en las restricciones, la validación y la orquestación.
¿Qué patrones utilizas para construir agentes fiables?