Microsoft wprowadził Foundry Toolbox oraz towarzyszącą mu funkcję Tool Search – usługę typu single-endpoint, która pozwala programistom podłączać agentów AI do setek narzędzi bez konieczności konfigurowania każdego agenta z osobna. Tool Search zredukował liczbę tokenów wejściowych o nawet 94%, gdy katalog zawierał ponad 600 narzędzi.

Dlaczego centralny toolbox ma znaczenie

Agenci AI potrzebują zewnętrznych możliwości — baz danych, systemów CRM, platform analitycznych — aby realizować żądania użytkowników. Do tej pory wiele organizacji łączyło każdego agenta bezpośrednio z wymaganymi interfejsami API. Inżynierowie musieli powtarzać konfigurację poświadczeń, egzekwowanie polityk i kod obsługi błędów dla każdego nowego agenta. Rezultatem była splątana sieć powielonych ustawień, która była trudna do audytowania i podatna na luki w bezpieczeństwie.

Foundry Toolbox zastępuje to prowizoryczne rozwiązanie ujednoliconą warstwą usług. Zamiast tuzina agentów, z których każdy wskazuje na tuzin oddzielnych punktów końcowych, wszyscy agenci komunikują się z pojedynczym punktem końcowym „toolboxa”. Toolbox zarządza wersjonowaniem, ciągami połączeń i politykami bezpieczeństwa, co pozwala zespołom zarządzać całym ekosystemem narzędzi z jednego miejsca. Przedsiębiorstwa obsługujące dziesiątki agentów w wielu jednostkach biznesowych natychmiast odnotowują spadek narzutu operacyjnego.

Duże katalogi narzędzi generują ukryty koszt: zużycie tokenów. Gdy model językowy otrzymuje prompt zawierający listę wszystkich dostępnych narzędzi, okno kontekstowe puchnie, zużywając tokeny, które mogłyby zostać wykorzystane na rozumowanie lub tekst skierowany do użytkownika. Tool Search rozwiązuje ten problem u źródła.

Gdy agent włączy funkcję Tool Search, model najpierw wywołuje meta-narzędzie o nazwie tool_search, opisując w prostym języku angielskim, czego potrzebuje (np. „znajdź najnowsze prognozy sprzedaży dla regionu X”). Usługa zwraca krótką, uszeregowaną listę potencjalnych narzędzi pasujących do intencji. Następnie model wywołuje call_tool, wybierając najbardziej odpowiednią pozycję z tej listy. Dzięki udostępnieniu jedynie istotnego podzbioru, prompt pozostaje bardzo mały, co w benchmarku obejmującym 600 narzędzi pozwala zaoszczędzić do 94% tokenów wejściowych.

Dwuetapowy przepływ pracy poprawia również dokładność wyboru. W tym samym benchmarku model wybierał poprawne narzędzie częściej niż wtedy, gdy musiał przeszukiwać pełny katalog, co zmniejszyło liczbę błędnych wywołań i niepotrzebnych powtórzeń.

Jak najlepiej wykorzystać toolbox

  • Twórz wysokiej jakości metadane – Tool Search polega na nazwie i opisie każdego narzędzia. Niejasne etykiety, takie jak „Pobierz dane”, dają modelowi zbyt mało informacji do pracy. Szczegółowe tytuły, np. „Pobierz ryzyka odnowień klientów i dane kontaktowe”, kierują silnik wyszukiwania do właściwego dopasowania.
  • Przypinaj często używane narzędzia – Jeśli agent przy każdym kroku potrzebuje konkretnego narzędzia użytkowego, przypnij je w konfiguracji agenta. Przypinanie pomija etap wyszukiwania, co redukuje opóźnienia i zużycie tokenów.
  • Organizuj według możliwości – Zamiast monolitycznego toolboxa obejmującego całe przedsiębiorstwo, podziel narzędzia na logiczne grupy (np. sales-tools, CRM-tools). Mniejsze grupy ograniczają promień rażenia błędnych konfiguracji i sprawiają, że wyniki wyszukiwania są bardziej precyzyjne.
  • Testuj przed wdrożeniem – Wersje toolboxa są niezmienne; gdy wersja zostanie ustawiona jako domyślna, wszyscy agenci zaczną jej używać. Użyj punktu końcowego dla deweloperów, aby zweryfikować nową wersję w izolacji, zanim wdrożysz ją w całej firmie.

Praktyki te mają największe znaczenie, gdy liczba narzędzi wzrasta do setek. W przypadku pojedynczego agenta z kilkoma narzędziami, bezpośrednie połączenia mogą wciąż być najprostszą drogą. Jednak wraz z mnożeniem się zespołów i rozszerzaniem toolboxa, scentralizowany model zwraca się w postaci mniejszej liczby powtórzeń, ściślejszego bezpieczeństwa i mierzalnych oszczędności tokenów.

Podsumowując: Foundry Toolbox i Tool Search dają dużym wdrożeniom AI sposób na okiełznanie rozrostu liczby narzędzi, redukcję marnotrawstwa tokenów o nawet 94% i egzekwowanie spójnych polityk bezpieczeństwa — a wszystko to poprzez dodanie pojedynczej, dobrze zarządzanej warstwy usług. Zespoły, które zainwestują w początkową konfigurację i dyscyplinę w zakresie metadanych, zyskają bardziej zwarty i kontrolowalny ekosystem agentów.