Alibaba ஆகஸ்ட் 3 அன்று Qwen3.8-Max-ஐ வெளியிட்டது. இது 2.4 டிரில்லியன் அளவுருக்களைக் (parameters) கொண்ட ஒரு mixture-of-experts மாடல் ஆகும், ஆனால் inference நேரத்தில் 95 பில்லியன் மட்டுமே செயல்படும். QwenCloud கேட்வே மூலம் இந்த மாடல் படங்கள் மற்றும் உரையை ஏற்றுக்கொள்கிறது, மேலும் அடுத்த வாரம் இதன் weights பொதுப்படையாகக் கிடைக்கும் என்று Alibaba கூறுகிறது.
இந்த பிரம்மாண்டமான செய்தி ஒரு கடினமான கேள்வியை மறைக்கிறது: மாடல் சார்ந்திருக்கும் கருவிகள் தடுமாறும்போது, அதன் ஏஜென்ட் (agent) நம்பகமான முறையில் குறியீட்டை (code) எழுத முடியுமா? விற்பனையாளர்களின் டெமோக்கள், ஒரு திட்டத்தை ஆரம்பத்திலிருந்து உருவாக்கிய பத்து நாள் முழுமையான தன்னாட்சி குறியீட்டுப் பயிற்சியைக் காட்டுகின்றன, ஆனால் அந்தச் சோதனைகள் Alibaba-வின் சொந்த உள்கட்டமைப்பில் மற்றும் சிறந்த அனுமதிகளின் கீழ் நடத்தப்பட்டன. டோக்கன் வரம்புகள் (token limits) ஏற்படும்போது, கருவி அழைப்புகள் (tool calls) தோல்வியடையும் போது அல்லது எழுதும் அனுமதி (write access) கட்டுப்படுத்தப்படும் போது இந்த அமைப்பு எவ்வாறு செயல்படுகிறது என்பதை நிஜ உலக டெவலப்பர்கள் அறிய வேண்டும்.
ஏன் இந்த எதிர்பார்ப்பு முக்கியமானது
Mixture-of-experts வடிவமைப்பு, ஒரு குறிப்பிட்ட "expert" அழைக்கப்படும் வரை ஒரு மிகப்பெரிய அளவுரு தொகுப்பை செயலற்ற நிலையில் வைத்திருக்க அனுமதிக்கிறது, இது அதே அளவுள்ள ஒரு dense மாடலை விட inference செலவைக் குறைவாக வைக்கிறது. Multimodal உள்ளீடு, வெறும் குறியீடு உருவாக்கத்தைத் தாண்டி பயன்பாட்டுத் தேவைகளை விரிவுபடுத்துகிறது, இது டெவலப்பர்கள் வரைபடங்கள் அல்லது ஸ்கிரீன்ஷாட்டுகளை ஒரே பிராம்ப்ட்டில் (prompt) உள்ளிட அனுமதிக்கிறது.
ஆனால் இந்த வாக்குறுதி, ஃபைல் எடிட்டர்கள், கம்பைலர்கள் (compilers), டெஸ்ட் ரன்னர்கள் மற்றும் வெர்ஷன்-கண்ட்ரோல் கட்டளைகளை ஒருங்கிணைக்கும் ஏஜென்ட் லேயரை (agent layer) பொறுத்தே அமைகிறது. அந்த லேயரால் தோல்வியடைந்த ஒரு கருவி அழைப்பிலிருந்து மீள முடியாவிட்டால், முழு குறியீட்டு அமர்வும் முறிந்துவிடும்.
விடுபட்ட பகுதி: reasoning effort knob
Qwen3.8-Max மூன்று "reasoning effort" முன்னமைப்புகளைக் (presets) கொண்டுள்ளது—low, medium, மற்றும் xhigh. இந்த அமைப்புகள் வேகத்திற்கும் பதிலின் தரத்திற்கும் இடையிலான சமநிலையைத் தீர்மானிக்கின்றன, மேலும் மிக முக்கியமாக, மாடல் வெளியிடும் டோக்கன்களின் எண்ணிக்கையையும் தீர்மானிக்கின்றன.
ஒரு மறுஉருவாக்கக்கூடிய சோதனைத் திட்டம்
விளம்பரக் கூற்றுகளைத் தாண்டி உண்மையை அறிய, ஒரு நிலையான டோக்கன் வரம்பைக் கொண்டு பின்வரும் நடைமுறைச் சோதனையை முயற்சிக்கவும்:
- புதிய repository-ஐ உருவாக்கவும்: ஏதேனும் ஒரு மொழியில் எளிய “hello world” கட்டமைப்பைக் கொண்டு தொடங்கவும்.
- ஏஜென்ட்டிற்கு அறிவுறுத்தி (prompt) ஒரு புதிய அம்சத்தைச் சேர்க்கச் சொல்லவும் (உதாரணமாக, ஒரு REST endpoint) மற்றும் அது வெளியிடும் ஒவ்வொரு திட்டம், அது செய்யும் ஒவ்வொரு கருவி அழைப்பு மற்றும் அது மாற்றும் ஒவ்வொரு கோப்பையும் பதிவு செய்யவும்.
- முதல் தோல்வியின் போது இடைநிறுத்தவும்—உதாரணமாக, ஒரு கம்பைலேஷன் பிழை (compilation error) தோன்றும் போது—மாடலின் உள் நிலையைச் சேமித்து, பின்னர் அந்தச் சரிபார்ப்புப் புள்ளியிலிருந்து (checkpoint) மீண்டும் தொடங்கவும்.
- ஒவ்வொரு reasoning effort அமைப்பின் கீழும் இயக்கத்தை மீண்டும் செய்யவும், மொத்த டோக்கன்கள், எடுத்துக்கொண்ட நேரம் மற்றும் ஏதேனும் கருவி அளவிலான பிழைகளைக் குறித்துக் கொள்ளவும்.
- அனுமதிகளைக் கட்டுப்படுத்தவும்: ஒரு முறை அனுமதிகளைக் கட்டுப்படுத்தவும் (read-only access) மற்றும் மற்றொரு முறை முழு எழுதும் அனுமதியையும் (full write access) வழங்கவும், இதன் மூலம் ஏஜென்ட் எவ்வாறு மாற்றங்களைச் செய்கிறது என்பதைக் காணவும்.
- மீண்டும் முயற்சிகளைப் பதிவு செய்யவும் (Log retries): மாடல் தோல்வியடைந்த ஒரு கருவியை மீண்டும் அழைப்பதா அல்லது கைவிடுவதா?
இந்த அளவீடுகளைச் சேகரிப்பதன் மூலம், பிழை கையாளுதலின் (error handling) மறைமுகச் செலவோடு நேரடி குறியீட்டு வெளியீட்டை நீங்கள் ஒப்பிட முடியும். ஏஜென்ட் மீண்டும் மீண்டும் ஒரு தோல்வியடையும் லின்டரை (linter) முயற்சித்தால், இறுதி குறியீடு சரியாகத் தெரிந்தாலும் டோக்கன் கட்டணம் அதிகமாகும்.
எண்கள் எதை மறைக்கின்றன
95B active-parameter என்ற புள்ளி நேரடியாக டாலர் தொகையாக மாறாது. பிழைகளைத் திருப்பித் தரும் கருவி அழைப்புகள், மாடல் திருத்தப்பட்ட பிராம்ப்ட்களை உருவாக்கத் தூண்டுகின்றன, இது டோக்கன் பயன்பாட்டை அதிகரிக்கிறது. நிலையான நிலை (durable state)—ஒரு செயலிழப்பிற்குப் பிறகு மீண்டும் தொடர அனுமதிக்கும் அவ்வப்போது எடுக்கப்படும் சரிபார்ப்புப் புள்ளிகள் (checkpoints)—இல்லையென்றால், ஒரு தோல்வியின் செலவு தொடர்ச்சியாக அதிகரிக்கக்கூடும்.
Open-weights எச்சரிக்கை
அடுத்த வாரம் weights-களை வெளியிடும் Alibaba-வின் வாக்குறுதி, on-prem deployment-க்கு வழிவகுக்கிறது, ஆனால் இரண்டு நடைமுறைத் தடைகள் உள்ளன. முதலாவதாக, உரிமம் (license) வணிகப் பயன்பாட்டைக் கட்டுப்படுத்தலாம் அல்லது அங்கீகாரத்தைக் கோரலாம்; மாடலை ஒரு தயாரிப்பில் ஒருங்கிணைப்பதற்கு முன் டெவலப்பர்கள் அதை வாசிக்க வேண்டும். இரண்டாவதாக, 2.4 T-parameter mixture-of-experts அமைப்பை இயக்குவதற்கு இன்னும் உயர்நிலை GPUs அல்லது சிறப்பு முடுக்கிகள் (specialized accelerators) தேவைப்படுகின்றன. உண்மையான வன்பொருள் தேவைகள் மற்றும் செயல்திறன் எண்கள் சரிபார்க்கப்படும் வரை ஆரம்பகாலப் பயனர்கள் “local deployment” கூற்றுகளைத் தற்காலிகமானதாகவே கருத வேண்டும்.
எதிர் வாதம்: விற்பனையாளரின் பார்வை
Alibaba-வின் உள் சோதனைகள், மாடல் பத்து நாள் தன்னாட்சி குறியீட்டுப் பயிற்சியை வெற்றிகரமாக முடிப்பதைக் காட்டுகின்றன, இதில் மனிதத் தலையீடு இன்றி சிக்கல்களைத் தீர்ப்பது (issue triage), குறியீடு உருவாக்கம் மற்றும் சோதனைச் செயலாக்கம் ஆகியவை அடங்கும். அந்த முடிவுகள் குழு உங்களுக்குக் காட்ட விரும்பும் விஷயங்களைக் காட்டுகின்றன, ஆனால் அவை நிஜ உலகச் சோதனைகளில் நம்பகத்தன்மையை நிரூபிக்கவில்லை.
அடுத்து எதைக் கவனிக்க வேண்டும்
- License finalization: open-weights வெளியீட்டின் துல்லியமான விதிமுறைகள், ஸ்டார்ட்அப்கள் Qwen3.8-Max மூலம் தயாரிப்புகளை அனுப்ப முடியுமா அல்லது ஹோஸ்டட் API-இல் மட்டுமே இருக்க வேண்டுமா என்பதைத் தீர்மானிக்கும்.
- Hardware availability: கிளவுட் வழங்குநர்கள் mixture-of-experts மாடல்களுக்கான முன்-அமைக்கப்பட்ட இன்ஸ்டன்ஸ்களை (pre-configured instances) வழங்கத் தொடங்கினால், on-prem சோதனைகளுக்கான தடை கணிசமாகக் குறையும்.
முக்கியக் கருத்து
Qwen3.8-Max-ன் செய்திகளில் இடம்பிடிக்கும் அளவு மற்றும் அதன் மல்டிமாடல் திறன் ஆகியவை கதையின் பாதி மட்டுமே; டெவலப்பர்களுக்கு உண்மையான அளவுகோல் என்பது அதன் agent harness எவ்வாறு கருவித் தோல்விகள், டோக்கன் வரம்புகள் மற்றும் அனுமதி வரம்புகளைக் கையாள்கிறது என்பதாகும். தர்க்கரீதியான முயற்சி மற்றும் அணுகல் உரிமைகளை மாற்றி அமைப்பதன் மூலம் மேற்கொள்ளப்படும் ஒரு ஒழுங்குபடுத்தப்பட்ட, மீண்டும் மீண்டும் செய்யக்கூடிய சோதனை—அந்த மாடல் அதன் சந்தைப்படுத்தல் வாக்குறுதிக்கு ஏற்ப செயல்படுகிறதா அல்லது coding pipeline-இல் மற்றொரு செலவு மிகுந்த அடுக்கை மட்டும் சேர்க்கிறதா என்பதை வெளிப்படுத்தும்.