Слом сборки: Разрыв между инструкцией и намерением

AI-агенты сделали именно то, что я просил. Но не то, что я хотел.

Я создаю проекты с помощью AI-агентов. Я направляю, а они генерируют. Один агент пишет инфраструктуру. Другой проводит аудит. Я объединяю код. Это быстро. Это хорошо. Но характер ошибок странный.

Агенты не совершают ошибок. Они безупречно следуют инструкциям. Баг кроется в разрыве между моей инструкцией и моим намерением. Агент заполняет этот разрыв буквальным исполнением.

Я столкнулся с этим четыре раза за одну неделю:

  • Призрачный деплой: Мой пайплайн развертывания сообщил «success». Так и было. Но он развернул старую версию от мая. Я спросил, произошло ли развертывание. Оно произошло. Я забыл спросить, развернут ли тот код, который я написал на самом деле.
  • Пустые вкладки: В моем UI было три вкладки. Спецификация требовала три вкладки. Две вкладки вели в никуда, потому что я их так и не закончил. Агент построил UI согласно спецификации, но спецификация была устаревшей.
  • Техническая стена: Я просил точные результаты. Агент выдал мне технический жаргон. Это было правильно, но мои пользователи не могли это прочитать. Я строил продукт для инженера, а не для человека.
  • Тихий сбой: Маршрут социальной карточки создал файл нулевого размера. Пустой файл шрифта не вызвал ошибку. Код обработал ожидаемую ошибку, но пропустил ту, которая произошла на самом деле.

Каждый из этих случаев прошел свои собственные тесты. Код был технически безупречен.

Если бы я доверял только принципу «оно работает», все четыре ошибки ушли бы в продакшн.

Решение не в улучшении промптов. И не в более умном агенте. Решение — в человеческом контроле.

Агенты оптимизируют результат под то, что вы говорите. Ваша задача — сверять сказанное с тем, что вы имели в виду. Агент не видит разницы. Только вы можете её увидеть.

Направление — это не разовое указание. Это постоянный процесс сопоставления работы с вашей целью. Вы должны спрашивать: «Это то, что я хотел?», а не «Оно запустилось?».

Агенты выполняют работу. Люди задают намерение.

Источник: https://dev.to/earlgreyhot1701d/breaking-build-kiro-and-claude-delivered-exactly-what-i-asked-and-it-wasnt-what-i-wanted-27l5

Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi