I Built An AI Incident Copilot That Does Not Store Your Logs
Todo engenheiro faz isso.
Algo quebra em produção. Você pega os logs. Você os cola em um chat de IA. Você pede ajuda. A IA dá uma boa resposta.
A maioria das pessoas acha que isso é normal. Não é. É um risco de segurança massivo.
Logs de produção contêm dados sensíveis. Eles contêm IDs de clientes, erros de autenticação, stack traces e respostas de API. Às vezes, até contêm segredos.
A maneira atual de depurar é colar dados privados em uma caixa de chat e torcer pelo melhor. Eu queria ajuda de IA sem o risco de vazamento de dados.
Então, eu construí um copiloto de incidentes de IA. Segui uma regra: o aplicativo deve ser útil mesmo que nos recusemos a armazenar seus dados.
O aplicativo atua como uma war room de IA. Você cola logs, traces ou erros. Ele te ajuda a:
• Resumir mudanças • Encontrar pontos de falha • Agrupar logs ruidosos • Explicar stack traces • Sugerir etapas de mitigação • Elaborar cronogramas de postmortem
A maioria dos desenvolvedores constrói aplicativos assim: Input → Backend → Database → LLM → Database → UI.
Essa é uma maneira perigosa de construir. Agora seu aplicativo possui um arquivo de cada falha de produção. Você tem que se preocupar com violações, backups e acesso de administrador.
Eu queria um bloco de notas privado, não um dashboard de SaaS.
Minha regra de design é: Processe os dados, não os colete.
A arquitetura funciona de forma diferente:
- O histórico do chat permanece no seu navegador.
- O backend não salva prompts.
- O backend não salva respostas do modelo.
- Cada requisição é descartável.
Eu usei a Icelake AI API porque ela se ajusta a este modelo de privacidade. O servidor realiza três etapas:
- Mascara valores sensíveis.
- Envia um prompt minimizado para a API.
- Retorna a resposta sem armazenar a requisição.
O mascaramento ajuda, mas não é um escudo mágico. Não pegará tudo. A verdadeira vitória é reduzir a quantidade de dados que você mantém após o término da requisição.
O mascaramento reduz o risco durante a chamada. Não armazenar logs reduz o risco para sempre.
A maioria dos aplicativos de IA pergunta: O que podemos coletar? Este aplicativo pergunta: O que podemos evitar coletar?
Essa abordagem torna o produto melhor. Os usuários se sentem seguros. Eles estão dispostos a usá-lo durante incidentes reais porque sabem que seus pensamentos não estão sendo arquivados no meu banco de dados.
A próxima onda de aplicativos de IA não deve competir apenas em quão inteligentes são. Eles devem competir em contenção.
Pergunte a si mesmo: • O que você se recusa a armazenar? • O que você torna impossível de acessar para si mesmo? • O que desaparece quando a sessão termina?
Ferramentas de IA devem ser úteis justamente por não lembrarem de tudo.
Optional learning community: https://t.me/GyaanSetuAi