Tu equipo no necesita un mejor modelo de IA esta semana
Deja de buscar nuevos modelos de IA. La verdadera actualización que necesitas es tu flujo de trabajo.
La mayoría de los equipos se centran en qué modelo parece más inteligente. Evalúan los nuevos lanzamientos y discuten sobre la inteligencia. Pero si construyes con LLMs, conoces el verdadero problema. El problema no es el mal código. El problema es la mala ejecución.
Te encuentras con estos problemas:
- Bucles de agentes que se detienen a mitad de una tarea.
- Prompts de aprobación que confunden a las personas.
- Cadenas de contexto que se rompen durante los reintentos.
- Humanos limpiando desastres porque la automatización perdió su estado.
La inteligencia está aumentando, pero el control operativo se está quedando atrás. Estamos entrando en la era del "impuesto de la orquestación". Si no te planificas para ello, lo pagarás con caídas del sistema y fallos silenciosos.
El resultado de la IA rara vez es el producto final. Es un paso intermedio en un sistema más grande. Debes resolver estas preguntas:
- ¿Puede la tarea reanudarse tras un tiempo de espera agotado?
- ¿Podemos auditar cada aprobación?
- ¿Podemos volver a ejecutar pasos sin duplicar acciones?
- ¿Puede un humano tomar el control en pleno proceso?
Los ingenieros senior resolvieron estos problemas hace años en sistemas de pagos y trabajos en segundo plano. Usábamos claves de idempotencia, puntos de control y registros de transacciones. La IA no inventó estos problemas. Solo hizo que ocurrieran más rápido.
No elijas un modelo antes de elegir tu contrato de ejecución. Eso es como elegir un motor de carreras para un coche sin frenos.
Construye un flujo de trabajo fiable siguiendo estos pasos:
Divide el trabajo de la IA en pasos pequeños No uses un único prompt gigante. Desglósalo: recopilar contexto, proponer cambio, ejecutar comprobaciones, solicitar aprobación y aplicar el cambio.
Usa almacenamiento duradero Utiliza una base de datos para rastrear el estado, los pasos y el número de intentos. Si un trabajador falla, te recuperas a partir del estado, no de la memoria.
Aplica la idempotencia Cada acción que modifique datos necesita una clave estable. Si un paso se ejecuta dos veces, el resultado debe ser el mismo.
Gestiona los permisos por niveles Deja de pedir aprobaciones constantes. Crea niveles:
- Nivel 0: Tareas de solo lectura (aprobación automática).
- Nivel 1: Escrituras de bajo riesgo (aprobación por lotes).
- Nivel 2: Tareas de alto impacto (pun