Можливості проти інструментів в агентному ШІ

Люди часто оцінюють ШІ-агентів за кількістю інструментів, які вони використовують.

Вони запитують, чи може агент переглядати вебсторінки, запускати код або робити запити до бази даних. Логіка проста: більше інструментів означає кращого агента.

Ця логіка помилкова.

Інструменти та можливості — це різні речі. Ви повинні розуміти цю різницю, щоб створювати якісний ШІ.

Інструмент — це інтерфейс. Він дозволяє агенту взаємодіяти зі світом.

Інструменти включають:

  • Пошук у вебі
  • Бази даних
  • API
  • Файлові системи
  • Платформи електронної пошти

Інструмент не приймає рішень. Він лише виконує дію. Сприймайте інструменти як розширення можливостей агента. Вони дозволяють агенту діяти, але не вказують йому, коли або чому потрібно діяти.

Можливість — це те, що вирішує проблему. Можливості є когнітивними.

Можливості включають:

  • Планування послідовності кроків
  • Розбиття складних цілей
  • Вибір правильного інструмента
  • Міркування на основі результатів
  • Коригування стратегії після невдачі

Можливості визначають те, як думає агент.

Уявіть двох агентів з однаковими інструментами: браузером і базою даних.

Агент А робить запит до бази даних, пише скрипт і дає неправильну відповідь.

Агент Б визначає необхідні дані, обирає найкраще джерело, перевіряє результати, а потім надає відповідь.

Інструменти однакові. Різниця — у міркуванні.

Можливості приймають рішення. Інструменти виконують.

  • Планування визначає, що буде далі.
  • Міркування пояснює, чому це відбувається.
  • Вибір інструмента визначає, як це відбувається.
  • Виконання — це останній крок.

Додавання інструментів без додавання можливостей — це помилка. Це призводить до зростання витрат і збільшення кількості помилок. Більше інструментів означає більше шляхів, якими можна піти, і більше способів зазнати невдачі.

Це все одно що дати кращий набір інструментів людині, яка не вміє будувати.

Коли ви проєктуєте агента, припиніть питати, які інструменти йому потрібні. Почніть питати, яких можливостей йому бракує.

Відповіддю рідко є ще один API. Відповіддю є краще планування та краще прийняття рішень.

Розумний агент із трьома інструментами перевершить дурненого агента з тридцятьма інструментами.

Оцінюйте агента за тим, як він використовує свій набір інструментів, а не за розміром цього набору.

Source: https://dev.to/rohith_kn/capabilities-vs-tools-in-agentic-ai-theyre-not-the-same-thing-3lg7