𝗬𝘂 𝗔𝗴𝗲𝗻𝘁𝗲 𝗱𝗲 𝗜𝗔 𝗡𝗼 𝗘𝘀𝘁á 𝗥𝗼𝘁𝗼. 𝗟𝗮 𝗩𝗲𝗿𝗱𝗮𝗱 𝗱𝗲 𝗧𝘂 𝗘𝗺𝗽𝗿𝗲𝘀𝗮 𝗦í.
Un agente de IA tenía un solo trabajo. Tenía que pagar la factura de un proveedor aprobado. El equipo de finanzas quería dejar de hacer esto manualmente.
Un martes, el agente tomó una factura de 48,000 Ksh. El sistema ERP la marcó como aprobada y pendiente de pago. El agente revisó las reglas. Todo cumplía los requisitos. Pagó la factura.
¿El problema? La factura ya había sido pagada el jueves pasado por un humano.
Ningún sistema estaba equivocado, pero todos discrepaban:
• El ERP decía que no estaba pagada porque la sincronización bancaria falló. • El feed bancario decía que estaba pagada. • Un hilo de Slack decía que se retuvieran todos los pagos a este proveedor. • Un correo electrónico del proveedor confirmó que habían recibido el dinero.
Cada sistema tenía una pieza del rompecabezas. Pero ningún sistema podía responder a la única pregunta que importa: ¿Se ha pagado esta factura específica?
Un empleado humano lo habría detectado. No porque sea más inteligente, sino porque siente la fricción. Un humano recuerda la tarea o nota el mensaje de Slack. Los humanos actúan como el pegamento entre sistemas desordenados. Nosotros aportamos el juicio.
Los agentes de IA no tienen instinto. Leen datos a velocidad de máquina. Ven "Aprobado" y "Pendiente de pago" y actúan. No sienten que algo esté mal.
El agente no falló. Funcionó exactamente como fue diseñado. El fallo es lo que yo llamo colapso epistémico.
La mayoría de las empresas intentan arreglar los agentes con mejores prompts o mejores modelos. Este es el error. No puedes llegar a la información mediante prompts si esta no existe en tus datos.
El verdadero problema es la falta de infraestructura epistémica.
Los datos son lo que tus sistemas almacenan. La verdad es lo que está sucediendo realmente. La mayoría de las empresas tienen abundantes datos pero cero verdad.
Los sistemas actuales comprimen tres cosas diferentes en un solo campo:
- Observación: Lo que un sistema dice que sucedió.
- Verdad: Lo que es realmente cierto.
- Historial: Lo que solía ser cierto.
Cuando una base de datos dice "Estado: Pendiente de pago", elimina el historial y la duda. Presenta una única observación como una verdad absoluta.
Los agentes de IA son una prueba de esfuerzo para este viejo problema. Eliminan a los humanos que corregían silenciosamente estas contradicciones cada día. Sin humanos que cierren las brechas, las grietas en tus datos se convierten en errores costosos.
Deja de intentar construir mejores agentes. Empieza a construir la capa que hay debajo de ellos. Necesitas un sistema que rastree observaciones, reconozca discrepancias e identifique datos obsoletos.
Hasta que construyas una capa de verdad, tus agentes seguirán haciendo lo incorrecto, a la perfección.
Fuente: https://dev.to/code_with_mwai/your-ai-agent-isnt-broken-your-companys-truth-is-2cl8
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi