Microsoft, geliştiricilerin her ajanı tek tek bağlamaya gerek kalmadan yapay zeka ajanlarını yüzlerce araca bağlamasına olanak tanıyan tek uç noktalı bir servis olan Foundry Toolbox'ı ve onun yardımcı özelliği Tool Search'ü piyasaya sürdü. Katalog 600'den fazla araç içerdiğinde Tool Search, girdi tokenlarını %94'e kadar azalttı.

Merkezi bir araç kutusu (toolbox) neden önemlidir?

Yapay zeka ajanlarının kullanıcı isteklerini yerine getirmek için veritabanları, CRM'ler ve analitik platformları gibi harici yeteneklere ihtiyacı vardır. Şimdiye kadar birçok kuruluş, her ajanı doğrudan gerekli API'lere bağlıyordu. Mühendisler; her yeni ajan için kimlik bilgisi yapılandırması, politika uygulama ve hata yönetimi kodlarını tekrar tekrar yazıyordu. Sonuç; denetlenmesi zor ve güvenlik açıklarına meyilli, yinelenen ayarlardan oluşan karmaşık bir ağdı.

Foundry Toolbox, bu düzensiz yapıyı birleşik bir servis katmanıyla değiştiriyor. Onlarca ajanın her birinin ayrı uç noktalara yönelmesi yerine, tüm ajanlar tek bir "toolbox" uç noktasıyla iletişim kurar. Toolbox; versiyonlama, bağlantı dizeleri ve güvenlik politikalarının yönetimini üstlenerek ekiplerin tüm araç ekosistemini tek bir yerden yönetmesine olanak tanır. Birden fazla iş birimi genelinde düzinelerce ajan çalıştıran işletmeler, operasyonel yükün anında düştüğünü görürler.

Tool Search ile token şişkinliğini azaltmak

Büyük araç katalogları gizli bir maliyet yaratır: token kullanımı. Bir dil modeli, mevcut tüm araçları listeleyen bir istem (prompt) aldığında, bağlam penceresi genişler ve normalde akıl yürütme veya kullanıcıya yönelik metinler için harcanabilecek tokenları tüketir. Tool Search bu sorunu kaynağında çözer.

Bir ajan Tool Search'ü etkinleştirdiğinde, model önce tool_search adlı bir meta-aracı çağırarak neye ihtiyacı olduğunu sade bir dille açıklar (örneğin, "X bölgesi için en son satış tahminini bul"). Servis, niyete uygun aday araçlardan oluşan kısa ve sıralı bir liste döndürür. Model daha sonra bu listeden en uygun olanı seçerek call_tool aracını çağırır. Sadece ilgili alt kümeyi sunarak istemin küçük kalmasını sağlar ve 600 araçlık kıyaslama testinde girdi tokenlarından %94'e kadar tasarruf sağlar.

İki adımlı iş akışı aynı zamanda seçim doğruluğunu da artırır. Aynı kıyaslama testinde model, tüm kataloğu taramak zorunda kaldığı duruma kıyasla doğru aracı daha sık seçmiş; böylece hatalı çağrıları ve gereksiz yeniden denemeleri azaltmıştır.

Araç kutusundan en iyi şekilde nasıl yararlanılır?

  • Nitelikli meta veriler yazın – Tool Search, her aracın adına ve açıklamasına güvenir. "Veri al" gibi belirsiz etiketler, modele üzerinde çalışabileceği çok az bilgi verir. "Müşteri yenileme risklerini ve iletişim bilgilerini getir" gibi ayrıntılı başlıklar, arama motorunu doğru eşleşmeye yönlendirir.
  • Sık kullanılan araçları sabitleyin – Eğer bir ajan her adımda belirli bir yardımcı araca ihtiyaç duyuyorsa, o aracı ajanın yapılandırmasına sabitleyin. Sabitleme işlemi arama adımını atlayarak gecikmeyi ve token tüketimini azaltır.
  • Yeteneklere göre organize edin – Tüm işletmeyi kapsayan monolitik bir araç kutusu yerine, araçları mantıksal gruplara ayırın (örneğin, sales-tools, CRM-tools). Daha küçük gruplar, hatalı yapılandırmaların etki alanını sınırlar ve arama sonuçlarının odaklanmış kalmasını sağlar.
  • Dağıtmadan önce test edin – Toolbox versiyonları değiştirilemez; bir versiyon varsayılan olarak ayarlandığında tüm ajanlar onu kullanmaya başlar. Yeni bir versiyonu şirket genelinde yayına almadan önce, izole bir şekilde doğrulamak için geliştirici uç noktasını kullanın.

Bu uygulamalar, araç sayısı yüzlere ulaştığında en büyük önemini kazanır. Birkaç yardımcı araca sahip tek bir ajan için doğrudan bağlantılar hala en basit yol olabilir. Ancak ekipler çoğaldıkça ve araç kutusu genişledikçe, merkezi model; azalan yinelenen işlemler, daha sıkı güvenlik ve ölçülebilir token tasarrufu ile kendini amorti eder.

Özetle: Foundry Toolbox ve Tool Search, büyük yapay zeka dağıtımlarına araç yayılımını dizginleme, token israfını %94'e kadar azaltma ve tutarlı güvenlik politikaları uygulama imkanı sunar; üstelik tüm bunları tek bir, iyi yönetilen servis katmanı ekleyerek yapar. İlk kurulum ve meta veri disiplinine yatırım yapabilen ekipler, daha yalın ve daha kontrol edilebilir bir ajan ekosistemi kazanacaktır.