Microsoft hat die Foundry Toolbox und die dazugehörige Funktion Tool Search eingeführt – einen Single-Endpoint-Service, der es Entwicklern ermöglicht, KI-Agenten mit Hunderten von Tools zu verbinden, ohne jeden Agenten einzeln anbinden zu müssen. Tool Search reduzierte die Input-Token um bis zu 94 %, wenn der Katalog mehr als 600 Tools enthielt.

Warum eine zentrale Toolbox wichtig ist

KI-Agenten benötigen externe Fähigkeiten – Datenbanken, CRMs, Analyseplattformen –, um Benutzeranfragen zu erfüllen. Bisher haben viele Unternehmen jeden Agenten direkt mit den erforderlichen APIs verbunden. Ingenieure mussten die Konfiguration von Zugangsdaten, die Durchsetzung von Richtlinien und den Code für die Fehlerbehandlung für jeden neuen Agenten wiederholen. Das Ergebnis war ein wirres Geflecht aus duplizierten Einstellungen, das schwer zu prüfen und anfällig für Sicherheitslücken war.

Die Foundry Toolbox ersetzt dieses Flickwerk durch eine einheitliche Service-Schicht. Anstatt dass ein Dutzend Agenten jeweils auf ein Dutzend separate Endpunkte verweisen, kommunizieren alle Agenten mit einem einzigen „Toolbox“-Endpunkt. Die Toolbox verwaltet Versionierung, Connection Strings und Sicherheitsrichtlinien, sodass Teams das gesamte Tool-Ökosystem von einem Ort aus steuern können. Unternehmen, die Dutzende von Agenten über mehrere Geschäftsbereiche hinweg betreiben, verzeichnen einen sofortigen Rückgang des operativen Aufwands.

Große Tool-Kataloge verursachen versteckte Kosten: den Token-Verbrauch. Wenn ein Sprachmodell einen Prompt erhält, der jedes verfügbare Tool auflistet, bläht sich das Kontextfenster auf und verbraucht Tokens, die ansonsten für logische Schlussfolgerungen oder den Text für den Benutzer verwendet werden könnten. Tool Search bekämpft das Problem an der Wurzel.

Wenn ein Agent Tool Search aktiviert, ruft das Modell zuerst ein Meta-Tool namens tool_search auf und beschreibt in einfachem Englisch, was es benötigt (z. B. „finde die neueste Umsatzprognose für Region X“). Der Service gibt eine kurze, sortierte Liste von Kandidaten-Tools zurück, die der Absicht entsprechen. Das Modell ruft dann call_tool auf und wählt den am besten geeigneten Eintrag aus dieser Liste aus. Da nur die relevante Teilmenge offengelegt wird, bleibt der Prompt minimal, was im 600-Tool-Benchmark bis zu 94 % der Input-Token einspart.

Der zweistufige Workflow verbessert auch die Genauigkeit der Auswahl. Im selben Benchmark wählte das Modell häufiger das richtige Tool aus als wenn es gezwungen war, den gesamten Katalog zu durchsuchen, was Fehlaufrufe und unnötige Wiederholungsversuche reduzierte.

So holen Sie das Beste aus der Toolbox heraus

  • Erstellen Sie hochwertige Metadaten – Tool Search verlässt sich auf den Namen und die Beschreibung jedes Tools. Vage Bezeichnungen wie „Daten abrufen“ bieten dem Modell wenig Arbeitsgrundlage. Detaillierte Titel wie „Kundenverlängerungsrisiken und Kontakte abrufen“ führen die Suchmaschine zum richtigen Treffer.
  • Fixieren Sie häufig verwendete Tools – Wenn ein Agent bei jedem Durchgang ein bestimmtes Utility benötigt, fixieren Sie dieses Tool in der Konfiguration des Agenten. Durch das Fixieren wird der Suchschritt übersprungen, was die Latenz und den Token-Verbrauch verringert.
  • Nach Fähigkeiten organisieren – Anstatt einer monolithischen Toolbox, die das gesamte Unternehmen abdeckt, sollten Sie Tools in logische Gruppen unterteilen (z. B. sales-tools, CRM-tools). Kleinere Gruppen begrenzen den Blast Radius von Fehlkonfigurationen und halten die Suchergebnisse fokussiert.
  • Testen Sie vor dem Deployment – Toolbox-Versionen sind unveränderlich (immutable); sobald eine Version als Standard festgelegt wurde, nutzen alle Agenten sie. Verwenden Sie den Developer-Endpoint, um eine neue Version isoliert zu validieren, bevor Sie sie unternehmensweit ausrollen.

Diese Praktiken sind besonders wichtig, wenn die Anzahl der Tools in die Hunderte steigt. Für einen einzelnen Agenten mit einer Handvoll Utilities können direkte Verbindungen immer noch der einfachste Weg sein. Aber wenn die Teams wachsen und die Toolbox expandiert, amortisiert sich das zentralisierte Modell durch reduzierte Duplikation, höhere Sicherheit und messbare Token-Einsparungen.

Fazit: Foundry Toolbox und Tool Search bieten großen KI-Implementierungen eine Möglichkeit, den Tool-Wildwuchs zu bändigen, Token-Verschwendung um bis zu 94 % zu reduzieren und konsistente Sicherheitsrichtlinien durchzusetzen – und das alles durch das Hinzufügen einer einzigen, gut verwalteten Service-Schicht. Teams, die die anfängliche Einrichtung und die Disziplin bei den Metadaten aufbringen können, profitieren von einem schlankeren und besser steuerbaren Agenten-Ökosystem.