Возможности против инструментов в агентном ИИ

Люди часто оценивают ИИ-агентов по количеству инструментов, которые они используют.

Они спрашивают, может ли агент просматривать веб-страницы, запускать код или делать запросы к базе данных. Логика проста: чем больше инструментов, тем лучше агент.

Эта логика ошибочна.

Инструменты и возможности — это разные вещи. Чтобы создавать качественный ИИ, необходимо понимать это различие.

Инструмент — это интерфейс. Он позволяет агенту взаимодействовать с внешним миром.

Инструменты включают:

  • Поиск в интернете
  • Базы данных
  • API
  • Файловые системы
  • Почтовые платформы

Инструмент не принимает решений. Он лишь выполняет действие. Думайте об инструментах как о расширении возможностей агента. Они позволяют агенту действовать, но не говорят ему, когда или зачем это делать.

Возможность — это то, что решает проблему. Возможности носят когнитивный характер.

Возможности включают:

  • Планирование последовательности шагов
  • Декомпозицию сложных целей
  • Выбор подходящего инструмента
  • Рассуждение на основе результатов
  • Корректировку стратегии после неудачи

Возможности определяют то, как агент мыслит.

Представьте двух агентов с одинаковыми инструментами: браузером и базой данных.

Агент А делает запрос к базе данных, пишет скрипт и выдает неверный ответ.

Агент Б определяет необходимые данные, выбирает лучший источник, проверяет результаты и только затем дает ответ.

Инструменты одинаковы. Разница — в рассуждениях.

Возможности принимают решения. Инструменты исполняют.

  • Планирование определяет, что произойдет дальше.
  • Рассуждение объясняет, почему это происходит.
  • Выбор инструмента определяет, как это происходит.
  • Исполнение — это финальный шаг.

Добавление инструментов без расширения возможностей — это ошибка. Это ведет к росту затрат и увеличению числа ошибок. Больше инструментов означают больше путей, по которым можно пойти, и больше способов потерпеть неудачу.

Это все равно что дать более качественный набор инструментов человеку, который не умеет ничего строить.

Когда вы проектируете агента, перестаньте спрашивать, какие инструменты ему нужны. Начните спрашивать, каких возможностей ему не хватает.

Ответ редко заключается в очередном API. Ответ — в лучшем планировании и более качественном принятии решений.

Умный агент с тремя инструментами победит глупого агента с тридцатью инструментами.

Оценивайте агента по тому, как он использует свой набор инструментов, а не по размеру этого набора.

Источник: https://dev.to/rohith_kn/capabilities-vs-tools-in-agentic-ai-theyre-not-the-same-thing-3lg7