Агент может быть за рулем. Но маршрут всё равно должны знать вы.

Многие хотят делегировать всё ИИ-агентам. Они ставят перед агентом цель и уходят по своим делам. Они стремятся к полному делегированию.

Это ловушка.

В большинстве случаев агент будет справляться. Проблемы возникают тогда, когда он ошибается. Сборка ломается или поведение меняется. Модель начинает ходить по кругу.

Если вы не понимаете, что именно построил агент, вы не сможете это исправить. Вы застрянете, глядя на незнакомый код. У вас не будет «карты», чтобы найти ошибку.

Представьте, что ИИ-агент — это junior-разработчик. Джуниор заходит в тупик и просит вашей помощи. Вы — его страховочная сетка.

Когда агент ошибается, страховочной сеткой становитесь вы. Больше некому. Если вы тоже застрянете, всё остановится. Вы не сможете починить систему, если сами будете так же растеряны, как и агент.

Перестаньте спрашивать, как много вы можете делегировать. Начните спрашивать, что вы обязаны понимать сами.

Вам не нужно заучивать каждую строчку кода. Это сводит на нет саму суть использования агентов. Вместо этого вы должны понимать несущие конструкции:

• Как данные перемещаются по вашей системе. • Где хранится состояние системы. • Критический путь вашего приложения. • Точки соединения различных компонентов.

Используйте этот тест, чтобы проверить свою готовность:

Можете ли вы проследить путь одного запроса от начала до конца? Можете ли вы объяснить его вслух? Когда возникает ошибка, можете ли вы предположить, где именно она произошла?

Если вы можете предположить место ошибки, вы контролируете ситуацию. Если же вы просто копируете ошибку обратно в ИИ в надежде на исправление, вы не владеете системой. Вы её арендуете.

Позвольте агенту выполнять рутинные задачи. Используйте освободившееся время, чтобы сосредоточиться на архитектуре. Держите руку на «скелете» системы.

Вы можете делегировать набор текста. Но вы не можете делегировать роль последней линии обороны.

Источник: https://dev.to/jaikora/the-agent-can-drive-you-still-need-to-know-the-route-274

Дополнительное сообщество для обучения: https://t.me/GyaanSetuAi