La ventana para desarrollar experiencia en IA se está cerrando
La gente habla de las demos de IA y de los sistemas de producción como si fueran lo mismo. No lo son.
Existe una brecha enorme entre una demo llamativa y un sistema que funciona en el mundo real.
Todo el mundo llama "agente" a cualquier cosa. Un chatbot con memoria es un agente. Un script con un bucle es un agente. Esto es un error. Este error conduce a una mala ingeniería.
Terminas aplicando ingeniería excesiva a tareas simples y una ingeniería insuficiente a las complejas.
Aquí tienes una definición real: un agente tiene un objetivo. Decide el siguiente paso. Gestiona los fallos. Sabe cuándo ha terminado una tarea. Todo lo demás es simplemente una llamada a una función.
Cómo notar la diferencia: • Si un humano debe guiar cada paso, es una interfaz de chat. • Si un sistema se recupera de una llamada fallida a una herramienta, es un agente. • Si un sistema desglosa un objetivo en subtareas, es un agente real.
Los equipos exitosos no se limitan a perseguir nuevos modelos. Se centran en tres cosas:
- Diseño de herramientas: ¿Qué tan limpia es la interfaz?
- Gestión de fallos: ¿Qué sucede cuando una herramienta no devuelve nada?
- Observabilidad: ¿Por qué el agente tomó esa decisión?
El framework que utilices importa menos que los patrones que sigas. LangChain o CrewAI son solo herramientas. Lo que importa es la arquitectura.
Utiliza estos patrones:
- Planificar y luego ejecutar: Usa un paso para planificar y un paso separado para actuar.
- Separar la recuperación del razonamiento: Obtener datos y usar datos son tareas distintas.
- Traspasos explícitos: Usa logs estructurados cuando un agente pase el trabajo a otro.
RAG también está causando problemas. La mayoría de la gente falla en la fragmentación (chunking). Si tus fragmentos cortan el contexto, el modelo alucinará. Debes corregir tu fragmentación y los metadatos antes de culpar al modelo.
Los modelos mejorarán. Los tokens serán más baratos. Esto no resuelve el desafío de la ingeniería.
El verdadero desafío es construir sistemas en los que se pueda confiar. Necesitas gobernanza y un uso fiable de las herramientas.
Los ingenieros que importarán dentro de dos años no son los ingenieros de prompts. Son diseñadores de sistemas. Construyen IA que otras personas pueden mantener.
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi