Microsoft ਨੇ Foundry Toolbox ਅਤੇ ਇਸ ਦੀ ਸਹਾਇਕ ਵਿਸ਼ੇਸ਼ਤਾ Tool Search ਲਾਂਚ ਕੀਤੀ ਹੈ, ਜੋ ਕਿ ਇੱਕ ਸਿੰਗਲ-ਐਂਡਪੁਆਇੰਟ (single-endpoint) ਸੇਵਾ ਹੈ ਜੋ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਹਰੇਕ ਏਜੰਟ ਨੂੰ ਵੱਖਰੇ ਤੌਰ 'ਤੇ ਜੋੜਨ ਦੀ ਬਜਾਏ ਸੈਂਕੜੇ ਟੂਲਸ ਨਾਲ AI agents ਨੂੰ ਜੋੜਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀ ਹੈ। ਜਦੋਂ ਕੈਟਾਲਾਗ ਵਿੱਚ 600 ਤੋਂ ਵੱਧ ਟੂਲਸ ਸਨ, ਤਾਂ Tool Search ਨੇ ਇਨਪੁਟ ਟੋਕਨਾਂ (input tokens) ਨੂੰ 94% ਤੱਕ ਘਟਾ ਦਿੱਤਾ।

ਇੱਕ ਕੇਂਦਰੀ ਟੂਲਬਾਕਸ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

AI agents ਨੂੰ ਉਪਭੋਗਤਾ ਦੀਆਂ ਬੇਨਤੀਆਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਬਾਹਰੀ ਸਮਰੱਥਾਵਾਂ—ਜਿਵੇਂ ਕਿ databases, CRMs, analytics platforms—ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਹੁਣ ਤੱਕ ਕਈ ਸੰਸਥਾਵਾਂ ਹਰੇਕ ਏਜੰਟ ਨੂੰ ਸਿੱਧਾ ਲੋੜੀਂਦੇ APIs ਨਾਲ ਜੋੜਦੀਆਂ ਸਨ। ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਹਰੇਕ ਨਵੇਂ ਏਜੰਟ ਲਈ credential configuration, policy enforcement ਅਤੇ error-handling ਕੋਡ ਨੂੰ ਵਾਰ-ਵਾਰ ਲਿਖਣਾ ਪੈਂਦਾ ਸੀ। ਇਸ ਦਾ ਨਤੀਜਾ ਡੁਪਲੀਕੇਟ ਸੈਟਿੰਗਾਂ ਦਾ ਇੱਕ ਉਲਝਿਆ ਹੋਇਆ ਜਾਲ ਸੀ ਜਿਸਦਾ ਆਡਿਟ ਕਰਨਾ ਮੁਸ਼ਕਲ ਸੀ ਅਤੇ ਜਿਸ ਵਿੱਚ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਹੋਣ ਦਾ ਖ਼ਤਰਾ ਸੀ।

Foundry Toolbox ਉਸ ਟੁਕੜਿਆਂ ਵਾਲੇ ਤਰੀਕੇ ਨੂੰ ਇੱਕ ਸੁਮੇਲਿਤ (unified) ਸਰਵਿਸ ਲੇਅਰ ਨਾਲ ਬਦਲ ਦਿੰਦਾ ਹੈ। ਦਰਜਨਾਂ ਏਜੰਟਾਂ ਨੂੰ ਵੱਖ-ਵੱਖ ਐਂਡਪੁਆਇੰਟਾਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਨ ਦੀ ਬਜਾਏ, ਸਾਰੇ ਏਜੰਟ ਇੱਕ ਸਿੰਗਲ “toolbox” ਐਂਡਪੁਆਇੰਟ ਨਾਲ ਗੱਲ ਕਰਦੇ ਹਨ। Toolbox ਕੋਲ versioning, connection strings ਅਤੇ security policies ਹੁੰਦੀਆਂ ਹਨ, ਜੋ ਟੀਮਾਂ ਨੂੰ ਇੱਕੋ ਥਾਂ ਤੋਂ ਪੂਰੇ ਟੂਲ ਈਕੋਸਿਸਟਮ ਨੂੰ ਪ੍ਰਬੰਧਿਤ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀਆਂ ਹਨ। ਉਹ ਉਦਯੋਗਿਕ ਸੰਸਥਾਵਾਂ (Enterprises) ਜੋ ਕਈ ਬਿਜ਼ਨਸ ਯੂਨਿਟਾਂ ਵਿੱਚ ਦਰਜਨਾਂ ਏਜੰਟ ਚਲਾਉਂਦੀਆਂ ਹਨ, ਉਹਨਾਂ ਦੇ ਕੰਮਕਾਜੀ ਬੋਝ (operational overhead) ਵਿੱਚ ਤੁਰੰਤ ਕਮੀ ਆਉਂਦੀ ਹੈ।

Tool Search ਨਾਲ ਟੋਕਨ ਦੀ ਵਾਧੂ ਵਰਤੋਂ (token bloat) ਨੂੰ ਘਟਾਉਣਾ

ਵੱਡੇ ਟੂਲ ਕੈਟਾਲਾਗ ਇੱਕ ਲੁਕੀਪੇਟ ਲਾਗਤ ਪੈਦਾ ਕਰਦੇ ਹਨ: ਟੋਕਨ ਦੀ ਵਰਤੋਂ। ਜਦੋਂ ਕੋਈ ਲੈਂਗੂਏਜ ਮਾਡਲ ਅਜਿਹਾ ਪ੍ਰੋਂਪਟ (prompt) ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਹਰ ਉਪਲਬਧ ਟੂਲ ਦੀ ਸੂਚੀ ਹੁੰਦੀ ਹੈ, ਤਾਂ context window ਵਧ ਜਾਂਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਉਹ ਟੋਕਨ ਖ਼ਰਚ ਹੁੰਦੇ ਹਨ ਜੋ ਹੋਰਨਾਂ ਤਰੀਕਿਆਂ ਨਾਲ ਤਰਕ (reasoning) ਜਾਂ ਉਪਭੋਗਤਾ-ਮੁਖੀ ਟੈਕਸਟ 'ਤੇ ਖ਼ਰਚ ਕੀਤੇ ਜਾ ਸਕਦੇ ਸਨ। Tool Search ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਇਸਦੇ ਸਰੋਤ 'ਤੇ ਹੱਲ ਕਰਦਾ ਹੈ।

ਜਦੋਂ ਕੋਈ ਏਜੰਟ Tool Search ਨੂੰ ਚਾਲੂ ਕਰਦਾ ਹੈ, ਤਾਂ ਮਾਡਲ ਪਹਿਲਾਂ tool_search ਨਾਮਕ ਇੱਕ ਮੇਟਾ-ਟੂਲ (meta-tool) ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਅਤੇ ਸਾਧਾਰਨ ਅੰਗਰੇਜ਼ੀ ਵਿੱਚ ਦੱਸਦਾ ਹੈ ਕਿ ਉਸਨੂੰ ਕੀ ਚਾਹੀਦਾ ਹੈ (ਉਦਾਹਰਨ ਲਈ, “find the latest sales forecast for region X”)। ਸੇਵਾ ਉਸ ਇਰਾਦੇ (intent) ਨਾਲ ਮੇਲ ਖਾਣ ਵਾਲੇ ਉਮੀਦਵਾਰ ਟੂਲਸ ਦੀ ਇੱਕ ਛੋਟੀ, ਰੈਂਕਡ ਸੂਚੀ ਵਾਪਸ ਕਰਦੀ ਹੈ। ਫਿਰ ਮਾਡਲ ਉਸ ਸੂਚੀ ਵਿੱਚੋਂ ਸਭ ਤੋਂ ਢੁਕਵੀਂ ਐਂਟਰੀ ਚੁਣਦੇ ਹੋਏ call_tool ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ। ਸਿਰਫ਼ ਪ੍ਰਸੰਗਿਕ ਹਿੱਸੇ (relevant subset) ਨੂੰ ਦਿਖਾ ਕੇ, ਪ੍ਰੋਂਪਟ ਬਹੁਤ ਛੋਟਾ ਰਹਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ 600-ਟੂਲ ਬੈਂਚਮਾਰਕ ਵਿੱਚ ਇਨਪੁਟ ਟੋਕਨਾਂ ਦੀ 94% ਤੱਕ ਬਚਤ ਹੁੰਦੀ ਹੈ।

ਇਹ ਦੋ-ਪੜਾਵੀ ਵਰਕਫਲੋ ਚੋਣ ਦੀ ਸ਼ੁੱਧਤਾ (accuracy) ਨੂੰ ਵੀ ਸੁਧਾਰਦਾ ਹੈ। ਉਸੇ ਬੈਂਚਮਾਰਕ ਵਿੱਚ, ਮਾਡਲ ਨੇ ਪੂਰੇ ਕੈਟਾਲਾਗ ਵਿੱਚੋਂ ਲੱਭਣ ਦੀ ਬਜਾਏ ਸਹੀ ਟੂਲ ਨੂੰ ਵਧੇਰੇ ਵਾਰ ਚੁਣਿਆ, ਜਿਸ ਨਾਲ ਗਲਤ ਕਾਲਾਂ ਅਤੇ ਬੇਲੋੜੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ (retries) ਵਿੱਚ ਕਮੀ ਆਈ।

ਟੂਲਬਾਕਸ ਦਾ ਵੱਧ ਤੋਂ ਵੱਧ ਲਾਭ ਕਿਵੇਂ ਲੈਣਾ ਹੈ

  • ਵਧੀਆ ਮੈਟਾਡਾਟਾ (metadata) ਲਿਖੋ – Tool Search ਹਰੇਕ ਟੂਲ ਦੇ ਨਾਮ ਅਤੇ ਵਰਣਨ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ। “Get data” ਵਰਗੇ ਅਸਪਸ਼ਟ ਲੇਬਲ ਮਾਡਲ ਨੂੰ ਕੰਮ ਕਰਨ ਲਈ ਬਹੁਤ ਘੱਟ ਜਾਣਕਾਰੀ ਦਿੰਦੇ ਹਨ। “Retrieve customer renewal risks and contacts” ਵਰਗੇ ਵਿਸਤ੍ਰਿਤ ਸਿਰਲੇਖ ਸਰਚ ਇੰਜਣ ਨੂੰ ਸਹੀ ਮੇਲ ਤੱਕ ਪਹੁੰਚਾਉਣ ਵਿੱਚ ਮਦਦ ਕਰਦੇ ਹਨ।
  • ਅਕਸਰ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਟੂਲਸ ਨੂੰ ਪਿਨ (pin) ਕਰੋ – ਜੇਕਰ ਕਿਸੇ ਏਜੰਟ ਨੂੰ ਹਰ ਵਾਰ ਇੱਕ ਖਾਸ ਯੂਟੀਲਿਟੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਉਸ ਟੂਲ ਨੂੰ ਏਜੰਟ ਦੀ ਕੌਂਫਿਗਰੇਸ਼ਨ ਵਿੱਚ ਪਿਨ ਕਰ ਦਿਓ। ਪਿਨ ਕਰਨ ਨਾਲ ਸਰਚ ਦਾ ਪੜਾਅ ਖਤਮ ਹੋ ਜਾਂਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਲੇਟੈਂਸੀ (latency) ਅਤੇ ਟੋਕਨ ਦੀ ਖਪਤ ਘਟ ਜਾਂਦੀ ਹੈ।
  • ਸਮਰੱਥਾ (capability) ਅਨੁਸਾਰ ਵਿਵਸਥਿਤ ਕਰੋ – ਪੂਰੀ ਸੰਸਥਾ ਨੂੰ ਕਵਰ ਕਰਨ ਵਾਲੇ ਇੱਕ ਵਿਸ਼ਾਲ ਟੂਲਬਾਕਸ ਦੀ ਬਜਾਏ, ਟੂਲਸ ਨੂੰ ਤਰਕਪੂਰਨ ਸਮੂਹਾਂ (ਜਿਵੇਂ ਕਿ sales-tools, CRM-tools) ਵਿੱਚ ਵੰਡੋ। ਛੋਟੇ ਸਮੂਹ ਮਿਸ-ਕੌਂਫਿਗਰੇਸ਼ਨ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਸੀਮਤ ਕਰਦੇ ਹਨ ਅਤੇ ਸਰਚ ਨਤੀਜਿਆਂ ਨੂੰ ਕੇਂਦਰਿਤ ਰੱਖਦੇ ਹਨ।
  • ਤੈਨਾਤ (deploy) ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਟੈਸਟ ਕਰੋ – Toolbox ਦੇ ਵਰਜ਼ਨ ਅਟੱਲ (immutable) ਹੁੰਦੇ ਹਨ; ਇੱਕ ਵਾਰ ਜਦੋਂ ਕੋਈ ਵਰਜ਼ਨ ਡਿਫੌਲਟ ਵਜੋਂ ਸੈੱਟ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਸਾਰੇ ਏਜੰਟ ਇਸਦੀ ਵਰਤੋਂ ਸ਼ੁਰੂ ਕਰ ਦਿੰਦੇ ਹਨ। ਪੂਰੀ ਕੰਪਨੀ ਵਿੱਚ ਲਾਗੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਨਵੇਂ ਵਰਜ਼ਨ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਡਿਵੈਲਪਰ ਐਂਡਪੁਆਇੰਟ ਦੀ ਵਰਤੋਂ ਕਰੋ।

ਇਹ ਅਭਿਆਸ ਉਦੋਂ ਸਭ ਤੋਂ ਵੱਧ ਮਹੱਤਵਪੂਰਨ ਹੁੰਦੇ ਹਨ ਜਦੋਂ ਟੂਲਸ ਦੀ ਗਿਣਤੀ ਸੈਂਕੜਿਆਂ ਵਿੱਚ ਪਹੁੰਚ ਜਾਂਦੀ ਹੈ। ਕੁਝ ਯੂਟੀਲਿਟੀਜ਼ ਵਾਲੇ ਇੱਕ ਸਿੰਗਲ ਏਜੰਟ ਲਈ, ਸਿੱਧੇ ਸੰਪਰਕ (direct connections) ਅਜੇ ਵੀ ਸਭ ਤੋਂ ਸਰਲ ਰਸਤਾ ਹੋ ਸਕਦੇ ਹਨ। ਪਰ ਜਿਵੇਂ-ਜਿਵੇਂ ਟੀਮਾਂ ਵਧਦੀਆਂ ਹਨ ਅਤੇ ਟੂਲਬਾਕਸ ਦਾ ਵਿਸਤਾਰ ਹੁੰਦਾ ਹੈ, ਕੇਂਦਰੀਕ੍ਰਿਤ ਮਾਡਲ ਡੁਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਕਮੀ, ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਅਤੇ ਮਾਪਣਯੋਗ ਟੋਕਨ ਬਚਤ ਰਾਹੀਂ ਆਪਣੇ ਆਪ ਨੂੰ ਸਹੀ ਸਾਬਤ ਕਰਦਾ ਹੈ।

ਸਾਰ (Bottom line): Foundry Toolbox ਅਤੇ Tool Search ਵੱਡੇ AI ਡਿਪਲਾਈਮੈਂਟਸ ਨੂੰ ਟੂਲਸ ਦੇ ਫੈਲਾਅ ਨੂੰ ਕਾਬੂ ਕਰਨ, ਟੋਕਨ ਦੀ ਬਰਬਾਦੀ ਨੂੰ 94% ਤੱਕ ਘਟਾਉਣ ਅਤੇ ਇਕਸਾਰ ਸੁਰੱਖਿਆ ਨੀਤੀਆਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦਾ ਤਰੀਕਾ ਦਿੰਦੇ ਹਨ—ਇਹ ਸਭ ਇੱਕ ਸਿੰਗਲ, ਚੰਗੀ ਤਰ੍ਹਾਂ ਪ੍ਰਬੰਧਿਤ ਸਰਵਿਸ ਲੇਅਰ ਜੋੜ ਕੇ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਉਹ ਟੀਮਾਂ ਜੋ ਸ਼ੁਰੂਆਤੀ ਸੈੱਟਅੱਪ ਅਤੇ ਮੈਟਾਡਾਟਾ ਅਨੁਸ਼ਾਸਨ ਦਾ ਖਰਚਾ ਚੁੱਕ ਸਕਦੀਆਂ ਹਨ, ਉਹ ਇੱਕ ਵਧੇਰੇ ਸੁਚਾਰੂ ਅਤੇ ਨਿਯੰਤਰਣਯੋਗ ਏਜੰਟ ਈਕੋਸਿਸਟਮ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦੀਆਂ ਹਨ।