Możliwości vs Narzędzia w Agentic AI

Ludzie często oceniają agentów AI na podstawie liczby narzędzi, których używają.

Pytają, czy agent potrafi przeglądać sieć, uruchamiać kod lub odpytywać bazę danych. Logika jest prosta. Więcej narzędzi oznacza lepszego agenta.

Ta logika jest błędna.

Narzędzia i możliwości to dwie różne rzeczy. Musisz zrozumieć to rozróżnienie, aby budować dobrą sztuczną inteligencję.

Narzędzie to interfejs. Pozwala agentowi „dotknąć” świata.

Narzędzia obejmują:

  • Wyszukiwanie w sieci
  • Bazy danych
  • API
  • Systemy plików
  • Platformy e-mailowe

Narzędzie nie podejmuje decyzji. Wykonuje jedynie akcję. Myśl o narzędziach jak o rozszerzeniu zasięgu agenta. Pozwalają agentowi działać, ale nie mówią mu, kiedy lub dlaczego ma to zrobić.

Możliwość to coś, co rozwiązuje problem. Możliwości mają charakter poznawczy.

Możliwości obejmują:

  • Planowanie sekwencji kroków
  • Rozbijanie złożonych celów na mniejsze części
  • Wybór odpowiedniego narzędzia
  • Wyciąganie wniosków z wyników
  • Dostosowywanie strategii po niepowodzeniu

Możliwości determinują sposób, w jaki agent myśli.

Wyobraź sobie dwóch agentów z tymi samymi narzędziami: przeglądarką i bazą danych.

Agent A odpytuje bazę danych, pisze skrypt i podaje błędną odpowiedź.

Agent B identyfikuje potrzebne dane, wybiera najlepsze źródło, weryfikuje wyniki, a następnie odpowiada.

Narzędzia są takie same. Różnica tkwi w rozumowaniu.

Możliwości decydują. Narzędzia wykonują.

  • Planowanie mówi, co wydarzy się dalej.
  • Rozumowanie mówi, dlaczego tak się dzieje.
  • Wybór narzędzia mówi, jak to się dzieje.
  • Wykonanie to ostatni krok.

Dodawanie narzędzi bez dodawania możliwości to błąd. Prowadzi to do wyższych kosztów i większej liczby błędów. Więcej narzędzi oznacza więcej ścieżek do podążania i więcej sposobów na porażkę.

To tak, jakby dać lepszą skrzynkę z narzędziami osobie, która nie wie, jak budować.

Projektując agenta, przestań pytać, jakich narzędzi potrzebuje. Zacznij pytać, jakich możliwości mu brakuje.

Odpowiedzią rzadko jest kolejne API. Odpowiedzią jest lepsze planowanie i lepsze podejmowanie decyzji.

Inteligentny agent z trzema narzędziami pokona głupiego agenta z trzydziestoma narzędziami.

Oceniaj agenta po tym, jak korzysta ze swojej skrzynki z narzędziami, a nie po rozmiarze tej skrzynki.

Źródło: https://dev.to/rohith_kn/capabilities-vs-tools-in-agentic-ai-theyre-not-the-same-thing-3lg7