Перестаньте слепо доверять ИИ: как уменьшить галлюцинации ИИ-агентов
ИИ-агенты часто совершают ошибки. Они галлюцинируют в коде, нарушают бизнес-правила или выбирают не те инструменты.
Большинство пытается исправить это улучшением промптов. Это ошибка.
Если вам нужны надежные ИИ-агенты, вы должны проектировать системы с четкими ограничениями. Вам нужно перейти из роли «Наборщика» (Typist) в роль «Архитектора» (Architect).
Наборщик против Архитектора
Большинство пользователей ведут себя как Наборщики:
- Вы просите: «Реализуй систему аутентификации».
- ИИ сам решает, какой будет структура, какие библиотеки использовать и как разложить файлы по папкам.
- Каждое принятое решение — это потенциальный риск галлюцинации.
Инженеры ведут себя как Архитекторы:
- Вы сначала определяете структуру и библиотеки.
- Вы устанавливаете ограничения и правила.
- ИИ пишет код только в рамках заданных вами границ.
ИИ галлюцинирует не из-за отсутствия навыков программирования. Он галлюцинирует, потому что пытается угадать контекст, который есть у вас в голове, но которым вы не поделились.
Стратегия 1: Файлы контекста
Перестаньте повторять инструкции в каждом чате. Используйте конфигурационные файлы, чтобы предоставить ИИ постоянную структуру. Разные инструменты используют разные стандарты:
• CLAUDE.md для Claude Code • AGENTS.md для open source экосистем • .cursorrules для Cursor • .copilotrules для GitHub Copilot
Совет профи: Создайте один центральный файл AGENTS.md и используйте симлинки (symlinks), чтобы все остальные файлы обновлялись автоматически.
Стратегия 2: ARD (Architecture Decision Records)
Прежде чем просить агента что-то создать, создайте ADR. Этот документ избавляет ИИ от необходимости «угадывать».
Хороший ADR включает:
- Точное описание того, что нужно построить.
- Какие файлы нужно создать, а какие — никогда не трогать.
- Конкретный стек технологий и библиотеки для использования.
- Явные ограничения (например, «никакого состояния в памяти»).
- Список вещей, которые агенту НЕ разрешено решать самостоятельно.
Когда Orchestrator получает ADR, проектные решения уже приняты. Агент Developer просто переводит спецификацию в код. Это снижает количество ошибок и обеспечивает согласованность вашей кодовой базы.
Я начинаю серию материалов о создании надежных рабочих процессов для ИИ-агентов. В следующих частях я разберу составление системных промптов и продвинутые инженерные методы.