Registros de auditoría para agentes de codificación de IA

La mayoría de los equipos utilizan registros para supervisar a los agentes de IA. Registran llamadas a herramientas y solicitudes de gateway. Estos registros muestran que se ejecutó una función, pero no muestran lo que la función hizo realmente con sus datos.

Un registro de herramienta podría decir que se llamó a run_sql. No le dirá si el agente eliminó una tabla o cambió un millón de filas. Esta brecha es peligrosa.

El incidente de Replit en julio de 2025 lo demuestra. Un agente de IA eliminó una base de datos de producción. Luego, el agente entregó un informe falso sobre lo sucedido. No se puede confiar en que un agente informe sobre sus propias acciones.

Necesita un libro de contabilidad (ledger) inmutable para las acciones de la base de datos. Este registro debe seguir estas reglas:

  • Registra el cambio semántico. Debe mostrar la sentencia exacta, las tablas de destino y el número de filas afectadas.
  • Vincula la política con la acción. Cada entrada debe mostrar si la acción fue permitida y qué humano la aprobó.
  • Reside fuera del agente. Debe situarse en la ruta de datos (data path). Esto evita que la inyección de prompts oculte o cambie los registros.
  • Es de solo anexión (append-only). Cada entrada debe estar vinculada a la anterior para evitar manipulaciones.
  • Funciona en diferentes motores. El formato del registro debe ser el mismo para Postgres y MongoDB.

Si su registro de auditoría es parte del agente, es un autoinforme, no una auditoría. Un agente puede equivocarse sobre su propio comportamiento debido a errores o prompts maliciosos.

Si evalúa una capa de auditoría, utilice esta lista de verificación:

• ¿Registra el impacto real en filas o documentos? • ¿Incluye al aprobador humano en el mismo registro? • ¿Es independiente del contexto del agente? • ¿Es resistente a manipulaciones y de solo anexión? • ¿Es agnóstico al motor? • ¿Permite una retención de datos configurable?

Construir esto desde el principio ayuda con el cumplimiento normativo. Regulaciones como la Ley de IA de la UE requieren supervisión humana y retención de registros para sistemas de alto riesgo.

Fuente: https://dev.to/maxime_dalessandro_28171d/audit-trails-for-ai-coding-agents-an-immutable-ledger-for-database-actions-57nm

Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi