Агент може керувати. Але ви все одно маєте знати маршрут.
Багато хто хоче делегувати все ШІ-агентам. Вони ставлять перед агентом ціль і йдуть у своїх справах. Вони прагнуть повного делегування.
Це пастка.
Агент працюватиме більшу частину часу. Проблема виникає тоді, коли він зазнає невдачі. Збірка ламається або поведінка змінюється. Модель починає ходити колами.
Якщо ви не розумієте, що саме побудував агент, ви не зможете це виправити. Ви застрягнете, дивлячись на код, який вам не знайомий. У вас не буде карти, щоб знайти помилку.
Уявіть ШІ-агента як молодшого розробника. Молодший розробник стикається з труднощами та просить вас про допомогу. Ви — його страховочна сітка.
Коли агент помиляється, ви стаєте страховочною сіткою. Більше нікого немає. Якщо ви теж застрягнете, усе зупиниться. Ви не зможете виправити систему, якщо самі будете так само розгублені, як і агент.
Досить питати, скільки ви можете передати. Почніть питати, що ви повинні продовжувати розуміти.
Вам не потрібно зазубрювати кожен рядок коду. Це нівелює саму суть використання агентів. Натомість ви повинні розуміти несучі конструкції:
• Як дані рухаються через вашу систему. • Де зберігається стан системи. • Критичний шлях вашого застосунку. • Точки, де з'єднуються різні частини.
Використовуйте цей тест, щоб перевірити, чи готові ви:
Чи можете ви простежити один запит від початку до кінця? Чи можете ви пояснити його вголос? Коли виникає помилка, чи можете ви припустити, де саме вона сталася?
Якщо ви можете вгадати місце розташування помилки, ви контролюєте ситуацію. Якщо ви просто копіюєте помилку назад у ШІ і сподіваєтеся на виправлення, ви не володієте системою. Ви її орендуєте.
Дозвольте агенту виконувати рутинні завдання. Використовуйте цю швидкість, щоб зосередитися на архітектурі. Тримайте руки на «скелеті» системи.
Ви можете делегувати набір тексту. Ви не можете делегувати роль останнього рубежу оборони.
Джерело: https://dev.to/jaikora/the-agent-can-drive-you-still-need-to-know-the-route-274
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi