Microsoft ha lanciato Foundry Toolbox e la sua funzione complementare Tool Search, un servizio a endpoint singolo che consente agli sviluppatori di collegare agenti AI a centinaia di strumenti senza dover cablare ogni singolo agente. Tool Search ha ridotto i token di input fino al 94% quando il catalogo conteneva più di 600 strumenti.

Perché un toolbox centrale è importante

Gli agenti AI hanno bisogno di capacità esterne — database, CRM, piattaforme di analisi — per soddisfare le richieste degli utenti. Finora, molte organizzazioni collegavano ogni agente direttamente alle API richieste. Gli ingegneri ripetevano la configurazione delle credenziali, l'applicazione delle policy e il codice di gestione degli errori per ogni nuovo agente. Il risultato era una rete intricata di impostazioni duplicate, difficile da sottoporre a audit e soggetta a falle di sicurezza.

Foundry Toolbox sostituisce questo mosaico con un livello di servizio unificato. Invece di una dozzina di agenti che puntano ciascuno a una dozzina di endpoint separati, tutti gli agenti comunicano con un unico endpoint "toolbox". Il toolbox gestisce il versionamento, le stringhe di connessione e le policy di sicurezza, consentendo ai team di gestire l'intero ecosistema di strumenti da un unico punto. Le aziende che gestiscono decine di agenti in diverse unità di business vedono un immediato calo dei costi operativi.

I grandi cataloghi di strumenti creano un costo nascosto: l'utilizzo dei token. Quando un modello linguistico riceve un prompt che elenca ogni strumento disponibile, la finestra di contesto si gonfia, consumando token che potrebbero altrimenti essere utilizzati per il ragionamento o per il testo rivolto all'utente. Tool Search affronta il problema alla radice.

Quando un agente abilita Tool Search, il modello chiama prima un meta-strumento chiamato tool_search, descrivendo in linguaggio naturale ciò di cui ha bisogno (ad es., "trova l'ultima previsione delle vendite per la regione X"). Il servizio restituisce un breve elenco classificato di strumenti candidati che corrispondono all'intento. Il modello invoca quindi call_tool, selezionando la voce più appropriata da quell'elenco. Esponendo solo il sottoinsieme pertinente, il prompt rimane minuscolo, risparmiando fino al 94% dei token di input nel benchmark dei 600 strumenti.

Il workflow in due fasi migliora anche l'accuratezza della selezione. Nello stesso benchmark, il modello ha scelto lo strumento corretto più spesso rispetto a quando era costretto a setacciare l'intero catalogo, riducendo le chiamate errate e i tentativi non necessari.

Come ottenere il massimo dal toolbox

  • Scrivere metadati eccellenti – Tool Search si basa sul nome e sulla descrizione di ogni strumento. Etichette vaghe come "Get data" lasciano al modello poco materiale su cui lavorare. Titoli dettagliati come "Retrieve customer renewal risks and contacts" guidano il motore di ricerca verso il match corretto.
  • Fissare gli strumenti utilizzati frequentemente – Se un agente ha sempre bisogno di una particolare utility in ogni turno, fissa quello strumento nella configurazione dell'agente. Il fissaggio (pinning) salta il passaggio di ricerca, riducendo la latenza e il consumo di token.
  • Organizzare per capacità – Invece di un toolbox monolitico che copre l'intera azienda, dividi gli strumenti in gruppi logici (ad es., sales-tools, CRM-tools). Gruppi più piccoli limitano il raggio d'impatto delle configurazioni errate e mantengono i risultati della ricerca focalizzati.
  • Testare prima di distribuire – Le versioni del toolbox sono immutabili; una volta che una versione viene impostata come predefinita, tutti gli agenti iniziano a usarla. Utilizza l'endpoint per sviluppatori per convalidare una nuova versione in isolamento prima di distribuirla in tutta l'azienda.

Queste pratiche sono fondamentali quando il numero di strumenti sale a centinaia. Per un singolo agente con una manciata di utility, le connessioni dirette potrebbero essere ancora la strada più semplice. Ma man mano che i team si moltiplicano e il toolbox si espande, il modello centralizzato si ripaga grazie alla riduzione delle duplicazioni, a una sicurezza più rigorosa e a un risparmio misurabile di token.

In sintesi: Foundry Toolbox e Tool Search offrono alle grandi implementazioni di IA un modo per domare la proliferazione degli strumenti, ridurre lo spreco di token fino al 94% e applicare policy di sicurezza coerenti, il tutto aggiungendo un singolo livello di servizio ben gestito. I team che possono permettersi l'impostazione iniziale e la disciplina nella gestione dei metadati possono ottenere un ecosistema di agenti più snello e controllabile.