Construí un copiloto de incidentes con IA que no almacena tus logs
Todos los ingenieros hacen esto.
Algo falla en producción. Tomas los logs. Los pegas en un chat de IA. Pides ayuda. La IA te da una buena respuesta.
La mayoría de la gente piensa que esto es normal. No lo es. Es un riesgo de seguridad masivo.
Los logs de producción contienen datos sensibles. Incluyen IDs de clientes, errores de autenticación, stack traces y respuestas de API. A veces, incluso contienen secretos.
La forma actual de depurar es pegar datos privados en un cuadro de chat y esperar lo mejor. Yo quería ayuda de la IA sin el riesgo de filtración de datos.
Así que construí un copiloto de incidentes con IA. Seguí una regla: la aplicación debe ser útil incluso si nos negamos a almacenar tus datos.
La aplicación actúa como una sala de guerra (war room) de IA. Pegas logs, trazas o errores. Te ayuda a:
• Resumir cambios • Encontrar puntos de falla • Agrupar logs ruidosos • Explicar stack traces • Sugerir pasos de mitigación • Redactar cronologías de postmortem
La mayoría de los desarrolladores construyen aplicaciones así: Input → Backend → Database → LLM → Database → UI.
Esa es una forma peligrosa de construir. Ahora tu aplicación posee un archivo de cada falla de producción. Tienes que preocuparte por brechas de seguridad, copias de seguridad y acceso de administrador.
Yo quería un bloc de notas privado, no un panel de control SaaS.
Mi regla de diseño es: procesar los datos, no recolectarlos.
La arquitectura funciona de manera diferente:
- El historial del chat permanece en tu navegador.
- El backend no guarda los prompts.
- El backend no guarda las respuestas del modelo.
- Cada solicitud es desechable.
Utilicé la API de Icelake AI porque se ajusta a este modelo de privacidad. El servidor realiza tres pasos:
- Oculta valores sensibles.
- Envía un prompt minimizado a la API.
- Devuelve la respuesta sin almacenar la solicitud.
La ocultación de datos ayuda, pero no es un escudo mágico. No lo atrapará todo. La verdadera victoria es reducir la cantidad de datos que conservas después de que termina la solicitud.
La ocultación de datos reduce el riesgo durante la llamada. No almacenar los logs reduce el riesgo para siempre.
La mayoría de las aplicaciones de IA preguntan: ¿Qué podemos recolectar? Esta aplicación pregunta: ¿Qué podemos evitar recolectar?
Este enfoque hace que el producto sea mejor. Los usuarios se sienten seguros. Están dispuestos a usarlo durante incidentes reales porque saben que sus pensamientos no se están archivando en mi base de datos.
La próxima ola de aplicaciones de IA no solo debería competir en qué tan inteligentes son. Deberían competir en su capacidad de contención.
Pregúntate: • ¿Qué te niegas a almacenar? • ¿Qué haces imposible de acceder para ti mismo? • ¿Qué desaparece cuando termina la sesión?
Las herramientas de IA deberían ser útiles precisamente porque no lo recuerdan todo.
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi