У кожній дорожній карті продукту є пункт «AI Agent». Це слово звучить як прогрес. Воно сигналізує керівництву, що ваша команда будує майбутнє, а не просто підтримує теперішнє. Але ось неприємна правда, яку не покажуть більшість демо-відео: агент — це найдорожчий і найменш передбачуваний спосіб виконати роботу. Для більшості бізнес-завдань це зовсім не той інструмент. Найкращі інженери — це не ті, хто поспішає його створити. Це ті, хто знає, коли варто зупинитися.
Пастка класифікації
Поспостерігайте за тим, як команда планує свого першого агента, і ви зазвичай побачите щось подібне. Надходить лист підтримки. Велика мовна модель читає тему та зміст, вирішує, чи це питання щодо оплати, чи технічна помилка, і відправляє його у відповідну чергу. Команда називає це агентом. Але це не так.
Те, що вони побудували — це детермінований потік з одним викликом моделі всередині. Кроки фіксовані: отримати лист, викликати модель, направити в чергу. Тут немає циклу, використання інструментів чи моменту, коли система зупиняється, щоб переглянути свій план через невдалу першу спробу. Вона не переглядає базу знань, не пише код і не перевіряє статус замовлення в процесі. Вона приймає одне рішення і рухається далі. Огортання цього єдиного виклику в мікросервіс не робить його агентом.
Справжня ціна помилкового сприйняття потоку як агента — це не лише додаткова інфраструктура. Це недетермінованість, яку ви запросили без жодної вигоди. Той самий лист може бути спрямований по-різному у вівторок вранці та в середу вдень, тому що температура (temperature) не дорівнює нулю або промпт дрейфує. Ви платите ціною агента за затримку (latency), вартість токенів та витрати на оцінку, тоді як потік з одним кроком класифікації вирішує проблему швидше і дешевше.
Рухайтеся вниз по драбині
Більшість проблем мають простіші аналоги, які вирішують їх так само добре. Уявіть це як драбину і починайте з нижньої сходинки.
Виправте процес. Іноді робота існує лише тому, що
