LLM + RAG + Function Calling — это не ИИ-агент

Многие называют агентом любое ИИ-приложение. Видя LLM, использующую RAG и function calling, они сразу вешают этот ярлык.

Это ошибка.

Эти инструменты предоставляют возможности. Но они не обеспечивают автономность. Без автономности у вас нет агента.

Нужно разделять то, что система может делать, и то, как она себя ведет.

LLM генерирует текст на основе контекста. Она не управляет потоком работы системы.

RAG извлекает информацию для улучшения ответов. Он не планирует и не принимает решения.

Function calling позволяет модели запросить действие. Система по-прежнему решает, какие функции существуют и когда их запускать. Модель лишь отправляет запрос.

Можно объединить все три компонента, но агента так и не получить. Вам будет не хватать контроля над последовательностью действий.

Большинство современных приложений используют предопределенный конвейер (pipeline). Код решает:

  • Когда использовать RAG
  • Когда обращаться к LLM
  • Когда вызывать функцию
  • Как обрабатывать конечный результат

Это ограниченный рабочий процесс. Модель действует в рамках заданного пути. Она следует последовательности и затем останавливается. Она не планирует.

ИИ-агент работает иначе. Он не следует заданному пути. Он решает, каким будет следующий шаг, исходя из того, что происходит в процессе.

Стандартная система говорит: «Следуй этому рабочему процессу». Система агента говорит: «Достигни этой цели».

Агент определяется своим поведением, а не инструментами. Агент должен:

  • Принимать решение о следующем действии
  • Динамически выбирать инструменты
  • Проходить через множество этапов
  • Менять стратегию на основе результатов
  • Продолжать работу, пока не достигнет цели

Разница заключается в ответственности.

В LLM-приложении система говорит модели, что делать. В агенте система ставит перед моделью цель. Модель сама решает, как её достичь.

RAG предоставляет контекст. Function calling дает возможность совершать действия. LLM обеспечивают рассуждение.

Но агент существует только тогда, когда модель сама управляет последовательностью своих действий.

Source: https://dev.to/rohith_kn/llm-rag-function-calling-is-not-an-ai-agent-5459

Optional learning community: https://t.me/GyaanSetuAi