Я создал ИИ-копилота для инцидентов, который не хранит ваши логи

Каждый инженер так делает.

Что-то ломается в продакшене. Вы берете логи. Вставляете их в чат с ИИ. Просите помощи. ИИ дает хороший ответ.

Большинство считает это нормой. Но это не так. Это огромный риск для безопасности.

Логи продакшена содержат конфиденциальные данные. В них есть ID клиентов, ошибки авторизации, стек-трейсы и ответы API. Иногда там даже встречаются секреты.

Текущий способ отладки — вставить приватные данные в окно чата и надеяться на лучшее. Я хотел помощи ИИ без риска утечки данных.

Поэтому я создал ИИ-копилота для инцидентов. Я следовал одному правилу: приложение должно быть полезным, даже если мы отказываемся хранить ваши данные.

Приложение работает как ИИ-ситуационный центр (war room). Вы вставляете логи, трейсы или ошибки. Оно помогает вам:

• Резюмировать изменения • Находить точки отказа • Группировать зашумленные логи • Объяснять стек-трейсы • Предлагать шаги по устранению последствий • Составлять хронологию для postmortem

Большинство разработчиков строят приложения так: Ввод → Бэкенд → База данных → LLM → База данных → UI.

Это опасный подход. Теперь ваше приложение владеет архивом каждого сбоя в продакшене. Вам приходится беспокоиться об утечках, бэкапах и административном доступе.

Мне нужен был приватный черновик, а не SaaS-панель управления.

Мое правило проектирования: обрабатывать данные, а не собирать их.

Архитектура работает иначе:

  • История чата остается в вашем браузере.
  • Бэкенд не сохраняет промпты.
  • Бэкенд не сохраняет ответы модели.
  • Каждый запрос является одноразовым.

Я использовал Icelake AI API, потому что он подходит под эту модель конфиденциальности. Сервер выполняет три шага:

  1. Маскирует конфиденциальные значения.
  2. Отправляет минимизированный промпт в API.
  3. Возвращает ответ, не сохраняя запрос.

Маскирование помогает, но это не магический щит. Оно не поймает всё. Настоящая победа — в сокращении объема данных, которые вы храните после завершения запроса.

Маскирование снижает риск во время вызова. Отказ от хранения логов снижает риск навсегда.

Большинство ИИ-приложений спрашивают: «Что мы можем собрать?» Это приложение спрашивает: «Чего мы можем избежать сбора?»

Такой подход делает продукт лучше. Пользователи чувствуют себя в безопасности. Они готовы использовать его во время реальных инцидентов, потому что знают, что их мысли не сохраняются в моей базе данных.

Следующая волна ИИ-приложений должна конкурировать не только за счет своего интеллекта. Они должны конкурировать за счет сдержанности.

Спросите себя: • От чего вы отказываетесь хранить? • К чему вы делаете невозможным доступ даже для самих себя? • Что исчезает по завершении сессии?

ИИ-инструменты должны быть полезными именно потому, что они не помнят всё.

Source: https://dev.to/bart_holden_0d0cf2aaa0424/i-built-an-ai-incident-copilot-that-does-not-store-your-production-logs-3l0p

Optional learning community: https://t.me/GyaanSetuAi