Microsoft, Foundry Toolbox మరియు దాని అనుబంధ ఫీచర్ Tool Searchను ప్రారంభించింది. ఇది ఒక సింగిల్-ఎండ్‌పాయింట్ సర్వీస్, దీని ద్వారా డెవలపర్లు ప్రతి ఏజెంట్‌ను విడివిడిగా కనెక్ట్ చేయకుండానే వందలాది టూల్స్‌కు AI ఏజెంట్లను అనుసంధానించవచ్చు. కేటలాగ్‌లో 600 కంటే ఎక్కువ టూల్స్ ఉన్నప్పుడు, Tool Search ఇన్‌పుట్ టోకెన్లను 94% వరకు తగ్గించింది.

ఒక సెంట్రల్ టూల్‌బాక్స్ ఎందుకు ముఖ్యం

యూజర్ రిక్వెస్ట్‌లను పూర్తి చేయడానికి AI ఏజెంట్లకు బాహ్య సామర్థ్యాలు—డేటాబేస్‌లు, CRMs, అనలిటిక్స్ ప్లాట్‌ఫారమ్‌లు—అవసరం. ఇప్పటి వరకు చాలా సంస్థలు ప్రతి ఏజెంట్‌ను నేరుగా అవసరమైన APIలకు కనెక్ట్ చేసేవి. ఇంజనీర్లు ప్రతి కొత్త ఏజెంట్ కోసం క్రెడెన్షియల్ కాన్ఫిగరేషన్, పాలసీ ఎన్‌ఫోర్స్‌మెంట్ మరియు ఎర్రర్-హ్యాండ్లింగ్ కోడ్‌ను మళ్లీ మళ్లీ రాయాల్సి వచ్చేది. దీని ఫలితంగా డూప్లికేట్ సెట్టింగ్‌ల వల్ల ఒక చిక్కుముడి ఏర్పడి, వాటిని ఆడిట్ చేయడం కష్టంగా మారడమే కాకుండా సెక్యూరిటీ లోపాలకు దారితీసేది.

Foundry Toolbox ఆ పాత పద్ధతిని ఒక యూనిఫైడ్ సర్వీస్ లేయర్‌తో భర్తీ చేస్తుంది. డజన్ల కొద్దీ ఏజెంట్లు వేర్వేరు ఎండ్‌పాయింట్‌లను ఉపయోగించే బదులు, అన్ని ఏజెంట్లు ఒకే “toolbox” ఎండ్‌పాయింట్‌తో మాట్లాడుతాయి. టూల్‌బాక్స్ వెర్షనింగ్, కనెక్షన్ స్ట్రింగ్స్ మరియు సెక్యూరిటీ పాలసీలను నిర్వహిస్తుంది, తద్వారా టీమ్‌లు మొత్తం టూల్ ఎకోసిస్టమ్‌ను ఒకే చోట నుండి మేనేజ్ చేయవచ్చు. బహుళ బిజినెస్ యూనిట్‌లలో డజన్ల కొద్దీ ఏజెంట్లను నడిపే ఎంటర్‌ప్రైజ్ సంస్థలు, తమ ఆపరేషనల్ ఓవర్‌హెడ్‌లో తక్షణమే తగ్గువార్పును గమనిస్తాయి.

పెద్ద టూల్ కేటలాగ్‌లు ఒక దాగి ఉన్న ఖర్చును సృష్టిస్తాయి: అదే టోకెన్ వినియోగం. ఒక లాంగ్వేజ్ మోడల్‌కు అందుబాటులో ఉన్న ప్రతి టూల్‌ను జాబితా చేసే ప్రాంప్ట్ వచ్చినప్పుడు, కాంటెక్స్ట్ విండో పెరిగిపోతుంది, దీనివల్ల రీజనింగ్ లేదా యూజర్-ఫేసింగ్ టెక్స్ట్ కోసం ఉపయోగించాల్సిన టోకెన్లు వృథా అవుతాయి. Tool Search ఈ సమస్యను మూలాల నుండే పరిష్కరిస్తుంది.

ఏజెంట్ Tool Searchను ఎనేబుల్ చేసినప్పుడు, మోడల్ మొదట tool_search అనే మెటా-టూల్‌ను పిలుస్తుంది, దానికి ఏమి కావాలో సాధారణ ఇంగ్లీష్‌లో వివరిస్తుంది (ఉదాహరణకు, “find the latest sales forecast for region X”). ఆ సర్వీస్ ఆ ఉద్దేశ్యానికి సరిపోయే అభ్యర్థనల జాబితాను (ranked list) అందిస్తుంది. ఆ తర్వాత మోడల్ ఆ జాబితా నుండి అత్యంత తగిన ఎంట్రీని ఎంచుకుంటూ call_toolను పిలుస్తుంది. కేవలం సంబంధిత టూల్స్‌ను మాత్రమే చూపించడం వల్ల, ప్రాంప్ట్ పరిమాణం చాలా తక్కువగా ఉంటుంది, దీనివల్ల 600-టూల్ బెంచ్‌మార్క్‌లో ఇన్‌పుట్ టోకెన్లు 94% వరకు ఆదా అవుతాయి.

ఈ రెండు దశల వర్క్‌ఫ్లో ఎంపిక ఖచ్చితత్వాన్ని కూడా మెరుగుపరుస్తుంది. అదే బెంచ్‌మార్క్‌లో, మోడల్ పూర్తి కేటలాగ్‌ను వెతకాల్సి వచ్చినప్పటి కంటే, ఈ పద్ధతిలో సరైన టూల్‌ను మరింత తరచుగా ఎంచుకుంది, తద్వారా తప్పుడు కాల్స్ మరియు అనవసరమైన రీట్రైలను తగ్గించింది.

టూల్‌బాక్స్ నుండి గరిష్ట ప్రయోజనాన్ని ఎలా పొందాలి

  • మెరుగైన మెటాడేటాను రాయండి – Tool Search ప్రతి టూల్ యొక్క పేరు మరియు వివరణపై ఆధారపడి ఉంటుంది. “Get data” వంటి అస్పష్టమైన లేబుల్స్ మోడల్‌కు తక్కువ సమాచారాన్ని అందిస్తాయి. “Retrieve customer renewal risks and contacts” వంటి వివరణాత్మక శీర్షికలు సెర్చ్ ఇంజిన్‌ను సరైన ఫలితం వైపు నడిపిస్తాయి.
  • తరచుగా ఉపయోగించే టూల్స్‌ను పిన్ చేయండి – ఒక ఏజెంట్‌కు ప్రతిసారీ ఒక నిర్దిష్ట యుటిలిటీ అవసరమైతే, ఆ టూల్‌ను ఏజెంట్ కాన్ఫిగరేషన్‌లో పిన్ చేయండి. పిన్ చేయడం వల్ల సెర్చ్ దశను దాటవేయవచ్చు, దీనివల్ల లేటెన్సీ మరియు టోకెన్ వినియోగం తగ్గుతాయి.
  • సామర్థ్యం (capability) ఆధారంగా నిర్వహించండి – మొత్తం ఎంటర్‌ప్రైజ్‌ను కవర్ చేసే ఒకే పెద్ద టూల్‌బాక్స్ కంటే, టూల్స్‌ను లాజికల్ గ్రూపులుగా (ఉదా: sales-tools, CRM-tools) విభజించండి. చిన్న గ్రూపులు కాన్ఫిగరేషన్ తప్పుల వల్ల కలిగే నష్టాన్ని (blast radius) తగ్గిస్తాయి మరియు సెర్చ్ ఫలితాలను ఖచ్చితంగా ఉంచుతాయి.
  • డిప్లాయ్ చేసే ముందు పరీక్షించండి – టూల్‌బాక్స్ వెర్షన్లు మార్చలేనివి (immutable); ఒక వెర్షన్‌ను డిఫాల్ట్‌గా సెట్ చేసిన తర్వాత, అన్ని ఏజెంట్లు దానిని ఉపయోగించడం ప్రారంభిస్తాయి. కంపెనీ అంతటా అమలు చేసే ముందు, కొత్త వెర్షన్‌ను విడిగా పరీక్షించడానికి డెవలపర్ ఎండ్‌పాయింట్‌ను ఉపయోగించండి.

టూల్స్ సంఖ్య వందలకు చేరుకున్నప్పుడు ఈ పద్ధతులు చాలా కీలకం అవుతాయి. కేవలం కొన్ని యుటిలిటీలు మాత్రమే ఉన్న ఒకే ఏజెంట్ కోసం, డైరెక్ట్ కనెక్షన్‌లు సులభమైన మార్గం కావచ్చు. కానీ టీమ్‌లు పెరిగే కొద్దీ మరియు టూల్‌బాక్స్ విస్తరించే కొద్దీ, ఈ సెంట్రలైజ్డ్ మోడల్ డూప్లికేషన్ తగ్గించడం, మెరుగైన సెక్యూరిటీ మరియు టోకెన్ ఆదా ద్వారా గొప్ప ప్రయోజనాలను అందిస్తుంది.

ముగింపు: Foundry Toolbox మరియు Tool Search పెద్ద AI డిప్లాయ్‌మెంట్‌లకు టూల్స్ విస్తరణను నియంత్రించడానికి, టోకెన్ వృథాను 94% వరకు తగ్గించడానికి మరియు స్థిరమైన సెక్యూరిటీ పాలసీలను అమలు చేయడానికి ఒక మార్గాన్ని అందిస్తాయి—ఇవన్నీ కేవలం ఒకే ఒక చక్కగా నిర్వహించబడే సర్వీస్ లేయర్‌ను జోడించడం ద్వారా సాధ్యమవుతాయి. ప్రారంభ సెటప్ మరియు మెటాడేటా క్రమశిక్షణను పాటించగలిగే టీమ్‌లు, మరింత సమర్థవంతమైన మరియు నియంత్రించదగిన ఏజెంట్ ఎకోసిస్టమ్‌ను పొందగలవు.