Microsoft представила Foundry Toolbox и сопутствующую функцию Tool Search — сервис с единой конечной точкой, который позволяет разработчикам подключать ИИ-агентов к сотням инструментов без необходимости индивидуальной настройки каждого агента. Tool Search сократил потребление входных токенов на величину до 94%, когда объем каталога превышал 600 инструментов.

Почему важен централизованный инструментарий

ИИ-агентам требуются внешние возможности — базы данных, CRM-системы, аналитические платформы — для выполнения запросов пользователей. До сих пор многие организации подключали каждого агента напрямую к необходимым API. Инженеры повторяли код настройки учетных данных, применения политик и обработки ошибок для каждого нового агента. Результатом была запутанная сеть дублирующихся настроек, которую было трудно проверять и которая была подвержена уязвимостям в безопасности.

Foundry Toolbox заменяет эту разрозненную структуру единым сервисным слоем. Вместо того чтобы десятки агентов обращались к десяткам отдельных конечных точек, все агенты взаимодействуют с одной конечной точкой «toolbox». Toolbox берет на себя версионирование, строки подключения и политики безопасности, позволяя командам управлять всей экосистемой инструментов из одного места. Предприятия, использующие десятки агентов в различных бизнес-подразделениях, сразу замечают снижение операционных расходов.

Большие каталоги инструментов создают скрытые затраты: использование токенов. Когда языковая модель получает промпт, в котором перечислены все доступные инструменты, контекстное окно раздувается, поглощая токены, которые в противном случае могли бы быть потрачены на рассуждения или текст для пользователя. Tool Search решает эту проблему в самом зародыше.

Когда агент включает Tool Search, модель сначала вызывает мета-инструмент под названием tool_search, описывая на обычном английском языке то, что ей нужно (например, «find the latest sales forecast for region X»). Сервис возвращает короткий ранжированный список подходящих инструментов. Затем модель вызывает call_tool, выбирая наиболее подходящую запись из этого списка. Благодаря предоставлению только релевантного подмножества, промпт остается крошечным, что экономит до 94% входных токенов в бенчмарке с 600 инструментами.

Двухэтапный рабочий процесс также повышает точность выбора. В том же бенчмарке модель выбирала правильный инструмент чаще, чем когда ей приходилось просеивать весь каталог, что сократило количество ложных вызовов и ненужных повторных попыток.

Как извлечь максимум из инструментария

  • Пишите качественные метаданные — Tool Search полагается на название и описание каждого инструмента. Расплывчатые метки вроде «Get data» (Получить данные) дают модели мало возможностей для работы. Подробные заголовки, такие как «Retrieve customer renewal risks and contacts» (Извлечь риски продления контрактов клиентов и их контакты), направляют поисковый движок к правильному совпадению.
  • Закрепляйте часто используемые инструменты — если агенту на каждом шаге требуется определенная утилита, закрепите этот инструмент в конфигурации агента. Закрепление позволяет пропустить этап поиска, сокращая задержку и потребление токенов.
  • Организуйте по возможностям — вместо монолитного инструментария, охватывающего все предприятие, разделите инструменты на логические группы (например, sales-tools, CRM-tools). Меньшие группы ограничивают радиус поражения при неправильных настройках и делают результаты поиска более сфокусированными.
  • Тестируйте перед развертыванием — версии Toolbox неизменяемы; как только версия установлена как версия по умолчанию, все агенты начинают использовать ее. Используйте эндпоинт для разработчиков, чтобы изолированно проверить новую версию перед ее внедрением в масштабах всей компании.

Эти практики наиболее важны, когда количество инструментов исчисляется сотнями. Для одного агента с несколькими утилитами прямые подключения все еще могут быть самым простым путем. Но по мере роста команд и расширения инструментария централизованная модель окупает себя за счет уменьшения дублирования, усиления безопасности и измеримой экономии токенов.

Итог: Foundry Toolbox и Tool Search дают крупным ИИ-развертываниям способ обуздать разрастание инструментов, сократить потери токенов на 94% и обеспечить соблюдение единых политик безопасности — и все это за счет добавления одного хорошо управляемого сервисного слоя. Команды, которые могут позволить себе первоначальную настройку и дисциплину в работе с метаданными, получат более эффективную и контролируемую экосистему агентов.