J'ai construit un copilote d'incidents IA qui ne stocke pas vos logs
Chaque ingénieur fait cela.
Quelque chose casse en production. Vous récupérez les logs. Vous les collez dans un chat IA. Vous demandez de l'aide. L'IA donne une bonne réponse.
La plupart des gens pensent que c'est normal. Ça ne l'est pas. C'est un risque de sécurité massif.
Les logs de production contiennent des données sensibles. Ils renferment des identifiants clients, des erreurs d'authentification, des stack traces et des réponses d'API. Parfois, ils contiennent même des secrets.
La méthode actuelle pour déboguer consiste à coller des données privées dans une boîte de chat et à espérer que tout se passe bien. Je voulais l'aide de l'IA sans le risque de fuite de données.
J'ai donc construit un copilote d'incidents IA. J'ai suivi une règle : l'application doit être utile même si nous refusons de stocker vos données.
L'application agit comme une "war room" IA. Vous collez des logs, des traces ou des erreurs. Elle vous aide à :
• Résumer les changements • Identifier les points de défaillance • Grouper les logs bruyants • Expliquer les stack traces • Suggérer des mesures d'atténuation • Rédiger des chronologies de post-mortem
La plupart des développeurs construisent des applications comme ceci : Input → Backend → Database → LLM → Database → UI.
C'est une manière dangereuse de construire. Désormais, votre application possède une archive de chaque échec de production. Vous devez vous soucier des violations de données, des sauvegardes et des accès administrateur.
Je voulais un bloc-notes privé, pas un tableau de bord SaaS.
Ma règle de conception est : Traiter les données, ne pas les collecter.
L'architecture fonctionne différemment :
- L'historique du chat reste dans votre navigateur.
- Le backend n'enregistre pas les prompts.
- Le backend n'enregistre pas les réponses du modèle.
- Chaque requête est éphémère.
J'ai utilisé l'API Icelake AI car elle correspond à ce modèle de confidentialité. Le serveur effectue trois étapes :
- Masque les valeurs sensibles.
- Envoie un prompt minimisé à l'API.
- Renvoie la réponse sans stocker la requête.
Le masquage aide, mais ce n'est pas un bouclier magique. Il ne détectera pas tout. La véritable victoire consiste à réduire la quantité de données que vous conservez une fois la requête terminée.
Le masquage réduit le risque pendant l'appel. Ne pas stocker les logs réduit le risque pour toujours.
La plupart des applications d'IA demandent : Que pouvons-nous collecter ? Cette application demande : Que pouvons-nous éviter de collecter ?
Cette approche rend le produit meilleur. Les utilisateurs se sentent en sécurité. Ils sont prêts à l'utiliser lors d'incidents réels car ils savent que leurs réflexions ne sont pas archivées dans ma base de données.
La prochaine vague d'applications d'IA ne devrait pas seulement rivaliser sur leur intelligence. Elles devraient rivaliser sur leur retenue.
Posez-vous ces questions : • Qu'est-ce que vous refusez de stocker ? • Qu'est-ce que vous rendez inaccessible pour vous-même ? • Qu'est-ce qui disparaît à la fin de la session ?
Les outils d'IA devraient être utiles parce qu'ils ne se souviennent pas de tout.
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi