AI ரூட்டிங்கின் பாண்டோரா பெட்டி
DeepMind, "Pandora’s Router" என்ற கட்டமைப்பை அறிமுகப்படுத்தியுள்ளது. இது மாதிரித் தேர்வை (model-selection) ஒரு செலவு சார்ந்த பாண்டோரா-பெட்டிப் பிரச்சனையாகக் கையாள்கிறது. முடிவுகளை உண்மையில் மேம்படுத்தும் தகவல்களுக்கு மட்டுமே கட்டணம் வசூலிப்பதன் மூலம், இந்த அமைப்பு விரிவான தேடல்களுக்கு (exhaustive searches) இணையான முடிவுகளைத் தக்கவைத்துக் கொண்டே, inference செலவைக் குறைக்கிறது.
மாதிரித் தேர்வு ஏன் இலவசமானது அல்ல?
உற்பத்திப் பாதைகள் (Production pipelines) பெரும்பாலும் ஒரு மாதிரியைத் தேர்ந்தெடுக்கும் படிநிலை இலவசமானது என்று கருதுகின்றன. உண்மையில், ஒரு மாதிரியின் பொருத்தத்தை மதிப்பிடுவது கணினித் திறன் (compute), நினைவகம் (memory) மற்றும் சில நேரங்களில் வெளிப்புறத் தரவு அழைப்புகளைப் (external data calls) பயன்படுத்துகிறது. ஒரு விரைவான, தெளிவற்ற மதிப்பீடு மலிவானது ஆனால் தவறாக வழிநடத்தலாம்; ஒரு துல்லியமான மதிப்பீடு என்பது பொதுவாக ஒரு சிறிய மாதிரியை இயக்குவதையோ அல்லது கூடுதல் சூழலை (extra context) பெறுவதையோ குறிக்கும், இது செலவை அதிகரிக்கும்.
DeepMind-ன் ஆய்வறிக்கை இந்த இக்கட்டான நிலையை மறுவரையறை செய்கிறது. ஒவ்வொரு வேட்பாளர் மாதிரியும் ஒரு "மதிப்பை" (value) மறைத்து வைத்திருக்கிறது - அதாவது வரும் வினாவிற்கு (query) அதன் எதிர்பார்க்கப்படும் செயல்திறன். இந்த கட்டமைப்பானது, ஒரு கட்டுப்படுத்தி (controller) அந்த மதிப்பைத் தெரிந்துகொள்ள ஒரு கட்டணத்தைச் செலுத்தவும், மேலும் கூடுதல் நுண்ணறிவு அதன் செலவை நியாயப்படுத்தாதபோது கட்டணத்தைச் செலுத்துவதை நிறுத்தவும் அனுமதிக்கிறது.
தீர்வின் இரண்டு பகுதிகள்
Pandora’s Router – இது ஒரு மையப்படுத்தப்பட்ட இயந்திரம் (centralized engine). இது ஒவ்வொரு கோரிக்கைக்கும் (request), ஒரு மாதிரியின் மதிப்பைத் துல்லியமாக மதிப்பிடுவதற்காகக் கட்டணம் செலுத்தலாமா என்பதைத் தீர்மானிக்கிறது. இது ஒரு "reserve price"-ஐ நிர்ணயிக்கிறது: அதாவது, ஒரு சிறந்த மதிப்பீட்டிலிருந்து கிடைக்கும் எதிர்பார்க்கப்படும் லாபம், அதற்கான கட்டணத்தை விடக் குறைவாக இருக்கும் ஒரு வரம்பு. கணிக்கப்பட்ட முன்னேற்றம் இந்த reserve price-ஐத் தாண்டும்போது, இயந்திரம் அந்தத் தகவலைப் பெறுகிறது; இல்லையெனில், ஏற்கனவே உள்ள சிறந்த யூகத்துடன் தொடர்கிறது.
Pandora’s Bidder – இது மாதிரி சந்தைகளுக்கான (model marketplaces) ஒரு பரவலாக்கப்பட்ட (decentralized) இணையான அமைப்பு. ஒரு ஏலத்தைச் (bid) சமர்ப்பிப்பதற்கு முன், தங்கள் சொந்த மதிப்பு மதிப்பீட்டைத் துல்லியமாக்க கணினித் திறனைச் செலவிடலாமா என்பதைத் தனிப்பட்ட வழங்குநர்கள் தீர்மானிக்கிறார்கள். அவர்களின் சொந்த reserve price, மேம்படுத்தப்பட்ட மதிப்பீடு வெற்றி பெற வாய்ப்புள்ளபோது மட்டுமே செலவு செய்யத் தூண்டுகிறது.
இரண்டு பகுதிகளும் ஒரே கொள்கையைப் பகிர்ந்து கொள்கின்றன: எதிர்பார்க்கப்படும் பலன் அதன் செலவை விட அதிகமாக இருக்கும்போது மட்டுமே தகவலுக்காகச் செலவிட வேண்டும்.
மூன்று களங்களில் கிடைத்த முடிவுகள்
ஆசிரியர்கள் மூன்று வகையான பணிகளில் (workloads) இந்த அணுகுமுறையைச் சோதித்தனர்:
- கணித ரீதியான பகுத்தறிவு (Mathematical reasoning) – பல்வேறு துல்லியத்தன்மை கொண்ட தீர்வadores (solvers) ஆகியவற்றிற்கு இடையே தேர்ந்தெடுத்தல்.
- Retrieval-augmented generation (RAG) – வெவ்வேறு அறிவுத் தளத் தேடல் உத்திகளுக்கு (knowledge-base lookup strategies) இடையே தேர்ந்தெடுத்தல்.
- பெரிய அளவிலான எம்பெடிங் மாடல்கள் (Large-scale embedding models) – ஒரு ஒற்றுமைத் தேடலுக்கு (similarity search) சிறந்த என்கோடரைத் (encoder) தேர்ந்தெடுத்தல்.
Pandora’s Router ஒவ்வொரு நிலையிலும் நிலையான ரூட்டிங் விதிகள் (static routing rules) மற்றும் greedy heuristics முறைகளை விடச் சிறப்பாகச் செயல்பட்டது. கடினமான சூழல்களில், இது பெரும்பாலான ஆய்வுச் செலவுகளைத் தவிர்த்தவாறே, அனைத்து மாதிரிகளையும் நேரடியாகத் தேடும் (brute-force scan) முறையின் தரத்திற்கு இணையாக இருந்தது. "பெரும்பாலான ஆய்வுச் செலவுகள்" சேமிக்கப்பட்டதாக ஆசிரியர்கள் தெரிவிக்கின்றனர், இது கணினிச் செலவில் பெரும் குறைவைக் குறிக்கிறது.
AI பொறியியலுக்கு இதன் பொருள் என்ன?
- ரூட்டிங் கூடுதல் சுமையைத் (routing overhead) தவிர்க்காதீர்கள். எந்த மாதிரியைப் பயன்படுத்துவது என்று தீர்மானிப்பது ஒரு அளவிடக்கூடிய விலையைக் கொண்டுள்ளது.
- ஒரு reserve price-ஐ அறிமுகப்படுத்துங்கள். கூடுதல் நுண்ணறிவு அதன் கட்டணத்திற்குத் தகுந்ததா என்பதற்கான தெளிவான வரம்பை நிர்ணயியுங்கள்.
- செலவு சார்ந்த ரூட்டிங்கை (cost-aware routing) பின்பற்றுங்கள். மாதிரிப் பட்டியல்கள் வளர வளர, எதிர்பார்க்கப்படும் லாபத்திற்கும் செலவிற்கும் இடையே சமநிலையைப் பேணும் ஒரு முடிவு எடுக்கும் அடுக்கு (decision layer), பட்ஜெட்டைச் சரியாகக் கையாள உதவும்.
எதிர் கருத்து: கூடுதல் சிக்கல்கள்
ஏலம் அல்லது ரூட்டிங் அடுக்கைச் சேர்ப்பது சில சமரசங்களைக் (trade-offs) கொண்டுவருகிறது. reserve price-களைக் கணக்கிடும் தர்க்கத்தைப் பராமரிக்கவும், கட்டணக் கட்டமைப்புகளைக் கண்காணிக்கவும், கூடுதல் குறியீட்டுப் பாதை (code path) ஒரு தடையல்ல (bottleneck) என்பதை உறுதிப்படுத்தவும் குழுக்கள் முயற்சி செய்ய வேண்டும். சில மாதிரிகள் மட்டுமே கொண்ட சிறிய பயன்பாடுகளுக்கு, Pandora’s Router சேமிப்பைக் காட்டிலும் அதிகச் செலவை ஏற்படுத்தக்கூடும். மேலும், ஒரு சிறந்த மதிப்பீட்டின் செலவு நிலையானது என்று இந்த கட்டமைப்பு கருதுகிறது—மாறும் மேகக்கணி (cloud) விலையிடல் அல்லது spot-instance இடையூறுகளின் போது இந்த அனுமானம் தவறாகலாம்.
முக்கியக் கருத்து
மாதிரித் தேர்வை ஒரு இலவச ரூட்டிங் படிநிலையாகக் கருதாமல், ஒரு பொருளாதார முடிவாகக் கருதுங்கள். Pandora’s Router ஒரு ஒழுக்கமான, செலவு சார்ந்த அணுகுமுறை, வெளியீட்டுத் தரத்தைப் பாதிக்காமல் தேவையற்ற கணினித் திறனைக் குறைக்க முடியும் என்பதையும், AI அமைப்புகளை அளவிடக்கூடியதாகவும் (scalable) நிதி ரீதியாக நிலையானதாகவும் (fiscally sustainable) வைத்திருக்க முடியும் என்பதையும் காட்டுகிறது.