Microsoft நிறுவனம் Foundry Toolbox மற்றும் அதன் துணை அம்சமான Tool Search ஆகியவற்றை அறிமுகப்படுத்தியுள்ளது. இது ஒரு single-endpoint சேவை ஆகும், இதன் மூலம் டெவலப்பர்கள் ஒவ்வொரு AI ஏஜெண்டையும் தனித்தனியாக இணைக்க வேண்டிய அவசியமின்றி, நூற்றுக்கணக்கான கருவிகளை (tools) அவற்றுடன் இணைக்க முடியும். 600-க்கும் மேற்பட்ட கருவிகள் இருக்கும்போது, Tool Search உள்ளீட்டு டோக்கன்களை (input tokens) 94% வரை குறைக்கிறது.

ஒரு மையப்படுத்தப்பட்ட toolbox ஏன் முக்கியமானது

பயனர் கோரிக்கைகளை நிறைவேற்ற AI ஏஜெண்டுகளுக்கு வெளிப்புறத் திறன்கள்—தரவுத்தளங்கள் (databases), CRMs, பகுப்பாய்வுத் தளங்கள் (analytics platforms)—தேவைப்படுகின்றன. அதுவரை பல நிறுவனங்கள் ஒவ்வொரு ஏஜெண்டையும் தேவையான API-களுடன் நேரடியாக இணைத்து வந்தன. பொறியாளர்கள் ஒவ்வொரு புதிய ஏஜெண்டிற்கும் அங்கீகாரத் தகவல் கட்டமைப்பு (credential configuration), கொள்கை அமலாக்கம் (policy enforcement) மற்றும் பிழை கையாளுதல் (error-handling) குறியீடுகளைத் திரும்பத் திரும்பச் செய்ய வேண்டியிருந்தது. இதன் விளைவாக, தணிக்கை செய்ய கடினமான மற்றும் பாதுகாப்பு இடைவெளிகளுக்கு வழிவகுக்கும் வகையில் நகல் அமைப்புகளின் (duplicated settings) சிக்கலான வலைப்பின்னல் உருவானது.

Foundry Toolbox அந்தத் தற்காலிகத் தீர்வுகளுக்குப் பதிலாக ஒரு ஒருங்கிணைந்த சேவை அடுக்கை (unified service layer) வழங்குகிறது. ஒரு டஜன் ஏஜெண்டுகள் ஒவ்வொன்றும் தனித்தனி எண்ட்-பாயிண்ட்களைக் (endpoints) குறிப்பதற்குப் பதிலாக, அனைத்து ஏஜெண்டுகளும் ஒரே ஒரு “toolbox” எண்ட்-பாயிண்ட்டுடன் தொடர்பு கொள்கின்றன. Toolbox ஆனது பதிப்பு மேலாண்மை (versioning), இணைப்பு சரங்கள் (connection strings) மற்றும் பாதுகாப்பு கொள்கைகளை நிர்வகிக்கிறது, இது குழுக்கள் முழு கருவிச் சூழலையும் (tool ecosystem) ஒரே இடத்திலிருந்து நிர்வகிக்க அனுமதிக்கிறது. பல வணிகப் பிரிவுகளில் டஜன் கணக்கான ஏஜெண்டுகளை இயக்கும் நிறுவனங்கள், இதன் மூலம் செயல்பாட்டுச் சுமை (operational overhead) உடனடியாகக் குறைவதைக் காண்கின்றன.

பெரிய அளவிலான கருவிப் பட்டியல்கள் (tool catalogs) ஒரு மறைமுகச் செலவை உருவாக்குகின்றன: அதுதான் டோக்கன் பயன்பாடு. ஒரு மொழி மாதிரி (language model) கிடைக்கக்கூடிய அனைத்துக் கருவிகளையும் பட்டியலிடும் ஒரு ப்ராம்ப்ட்டைப் (prompt) பெறும்போது, அதன் சூழல் சாளரம் (context window) விரிவடைகிறது. இதனால், பகுத்தறிவு அல்லது பயனர் சார்ந்த உரைகளுக்குப் பயன்படுத்தப்பட வேண்டிய டோக்கன்கள் வீணாகின்றன. Tool Search இந்தப் பிரச்சனையை அதன் மூலத்திலேயே தீர்க்கிறது.

ஒரு ஏஜென்ட் Tool Search-ஐப் பயன்படுத்தும்போது, மாதிரி முதலில் tool_search எனப்படும் ஒரு மெட்டா-கருவியைத் (meta-tool) அழைக்கிறது, அதற்குத் தேவையானதைச் சாதாரண ஆங்கிலத்தில் விவரிக்கிறது (உதாரணமாக, “find the latest sales forecast for region X”). அந்தச் சேவை, நோக்கத்திற்குப் பொருத்தமான கருவிகளின் சுருக்கமான, வரிசைப்படுத்தப்பட்ட பட்டியலைத் திருப்பித் தருகிறது. பின்னர் மாதிரி அந்தப் பட்டியலிலிருந்து மிகவும் பொருத்தமானதைத் தேர்ந்தெடுத்து call_tool ஐ அழைக்கிறது. தொடர்புடைய ஒரு சிறு பகுதியை மட்டும் வெளிப்படுத்துவதன் மூலம், ப்ராம்ப்ட் மிகச் சிறியதாகவே இருக்கும், இது 600-கருவி அளவீட்டில் (benchmark) உள்ளீட்டு டோக்கன்களை 94% வரை சேமிக்கிறது.

இந்த இரண்டு படிநிலை பணிப்பாய்வு (workflow) தேர்வுக் துல்லியத்தையும் மேம்படுத்துகிறது. இதே அளவீட்டில், முழுப் பட்டியலையும் தேட வேண்டிய கட்டாயத்திற்கு உள்ளாகும்போது கிடைப்பதை விட, இந்த முறையில் மாதிரி சரியான கருவியைத் தேர்ந்தெடுக்கும் வாய்ப்பு அதிகமாக இருந்தது, இது தவறான அழைப்புகள் மற்றும் தேவையற்ற மறுமுயற்சிகளைக் குறைக்கிறது.

Toolbox-லிருந்து சிறந்த பலனைப் பெறுவது எப்படி

  • சிறந்த மெட்டாடேட்டாவை (metadata) எழுதுங்கள் – Tool Search ஒவ்வொரு கருவியின் பெயர் மற்றும் விளக்கத்தைச் சார்ந்துள்ளது. “Get data” போன்ற தெளிவற்ற பெயர்கள் மாதிரிக்குச் செயல்படக் குறைந்த அளவே தகவல்களை வழங்கும். “Retrieve customer renewal risks and contacts” போன்ற விரிவான தலைப்புகள் தேடுபொறியை சரியான பொருத்தத்திற்கு வழிநடத்தும்.
  • அடிக்கடி பயன்படுத்தப்படும் கருவிகளைப் பின் (pin) செய்யுங்கள் – ஒரு ஏஜென்ட் ஒவ்வொரு முறையும் ஒரு குறிப்பிட்ட கருவியைத் தேவைப்பட்டால், அந்த கருவியை ஏஜென்ட் உள்ளமைப்பில் (configuration) பின் செய்து வைக்கவும். இவ்வாறு செய்வதன் மூலம் தேடல் படிநிலை தவிர்க்கப்படுகிறது, இதனால் தாமதம் (latency) மற்றும் டோக்கன் பயன்பாடு குறைகிறது.
  • திறன்களின் அடிப்படையில் ஒழுங்கமைக்கவும் – முழு நிறுவனத்தையும் உள்ளடக்கிய ஒரு பெரிய toolbox-க்கு பதிலாக, கருவிகளைத் தர்க்கரீதியான குழுக்களாகப் பிரிக்கவும் (உதாரணமாக, sales-tools, CRM-tools). சிறிய குழுக்கள் தவறான உள்ளமைப்புகளால் ஏற்படும் பாதிப்பைக் குறைப்பதோடு, தேடல் முடிவுகளையும் துல்லியமாக வைத்திருக்கும்.
  • பயன்படுத்துவதற்கு முன் சோதிக்கவும் – Toolbox பதிப்புகள் மாற்ற முடியாதவை (immutable); ஒரு பதிப்பு இயல்புநிலையாக (default) அமைக்கப்பட்டவுடன், அனைத்து ஏஜெண்டுகளும் அதைப் பயன்படுத்தத் தொடங்கும். நிறுவன அளவில் நடைமுறைப்படுத்துவதற்கு முன், ஒரு புதிய பதிப்பைத் தனிமைப்படுத்தப்பட்ட முறையில் சரிபார்க்க டெவலப்பர் எண்ட்-பாயிண்ட்டைப் பயன்படுத்தவும்.

கருவி எண்ணிக்கை நூற்றுக்கணக்கானதாக உயரும்போது இந்த நடைமுறைகள் மிகவும் முக்கியமானதாகின்றன. ஒரு சில கருவிகளைக் கொண்ட ஒரு தனி ஏஜெண்டிற்கு, நேரடி இணைப்புகளே எளிமையான வழியாக இருக்கலாம். ஆனால் குழுக்கள் பெருகி, toolbox விரிவடையும் போது, நகல் குறைப்பு, வலுவான பாதுகாப்பு மற்றும் அளவிடக்கூடிய டோக்கன் சேமிப்பு ஆகியவற்றின் மூலம் இந்த மையப்படுத்தப்பட்ட மாதிரி பெரும் பலனைத் தரும்.

சுருக்கமாக: Foundry Toolbox மற்றும் Tool Search ஆகியவை பெரிய அளவிலான AI பயன்பாடுகளில் கருவிகளின் பரவலைக் கட்டுப்படுத்தவும், டோக்கன் வீணாவதை 94% வரை குறைக்கவும் மற்றும் நிலையான பாதுகாப்பு கொள்கைகளை அமல்படுத்தவும் வழிவகை செய்கின்றன—இவை அனைத்தும் ஒரே ஒரு நன்கு நிர்வகிக்கப்பட்ட சேவை அடுக்கைச் சேர்ப்பதன் மூலம் சாத்தியமாகின்றன. ஆரம்பக்கட்ட அமைப்பு மற்றும் மெட்டாடேட்டா ஒழுக்கத்தைக் கடைப்பிடிக்கக்கூடிய குழுக்கள், மிகவும் மெலிதான மற்றும் எளிதில் கட்டுப்படுத்தக்கூடிய ஏஜென்ட் சூழலைப் பெற முடியும்.