கணிதத்தின் பின்னணியில்: OpenAI-ன் Jalapeño சிப் எவ்வாறு AI பொருளாதாரத்தை இலக்கு வைக்கிறது

OpenAI தனது வளர்ச்சியை மூன்றாம் தரப்பு வன்பொருளின் (hardware) அதிகரித்து வரும் செலவுகளிலிருந்து பிரிக்க, சொந்தமாகத் தயாரிக்கும் தனிப்பயனாக்கப்பட்ட சிலிக்கான் (custom silicon) மூலம் தீவிரமாகச் செயல்பட்டு வருகிறது. Broadcom உடன் இணைந்து வடிவமைக்கப்பட்ட ஒரு Application-Specific Integrated Circuit (ASIC) ஆன புதிய "Jalapeño" சிப், inference பொருளாதாரத்தை மேம்படுத்துவதற்காக செங்குத்து ஒருங்கிணைப்பை (vertical integration) நோக்கிய ஒரு மூலோபாய மாற்றத்தைக் குறிக்கிறது.

Nvidia மீதான சார்புநிலையை உடைத்தல்

பல ஆண்டுகளாக, AIத் துறை Nvidia ஆதிக்கம் செலுத்தும் மிகப்பெரிய மூலதனச் செலவு சுழற்சியால் (capital expenditure cycle) வரையறுக்கப்பட்டுள்ளது. Nvidia தற்போது சுமார் 75% லாப வரம்பைக் கொண்டுள்ள நிலையில், பெரிய அளவிலான மாடல்களைப் பயிற்றுவிப்பதற்கும் (training) பயன்படுத்துவதற்கும் (deploying) ஆகும் செலவு, அறிவாற்றலை (intelligence) விரிவுபடுத்துவதில் ஒரு முக்கியத் தடையாகிவிட்டது. இந்த பொருளாதார அழுத்தத்திற்கு நேரடிப் பதிலாகவே OpenAI தனது Jalapeño சிப்பை உருவாக்குகிறது.

பொதுவான பயன்பாட்டிற்கான GPUs-லிருந்து ஒரு சிறப்பு வாய்ந்த ASIC-க்கு மாறுவதன் மூலம், வன்பொருள் விற்பனையாளர்களுக்குச் செலுத்தப்படும் "வரி"யை (tax) கணிசமாகக் குறைக்க OpenAI இலக்கு வைத்துள்ளது. பல்வேறு வகையான இணையாகக் கணக்கிடும் (parallel computing) பணிகளுக்காக வடிவமைக்கப்பட்ட Nvidia-வின் GPUs போலல்லாமல், Jalapeño சிப், LLM inference-ல் உள்ள கணிதப் பணிகளைக் கையாளுவதற்காகவே பிரத்யேகமாக வடிவமைக்கப்படுகிறது. இந்தச் சிறப்புத் தன்மை அதிகத் திறன், குறைந்த மின் நுகர்வு மற்றும் இறுதியில், ஒரு டோக்கனுக்கான (token) குறைந்த செலவை வழங்குகிறது.

Broadcom உடனான ஒத்துழைப்பு மற்றும் ASIC நன்மைகள்

Broadcom உடனான இந்தத் கூட்டணி இந்தத் திட்டத்தின் ஒரு முக்கியமான அங்கமாகும். Broadcom குறைக்கடத்தி (semiconductor) துறையில் ஒரு அனுபவம் வாய்ந்த நிறுவனம், கட்டடக்கலை வடிவமைப்பிலிருந்து (architectural design) இயற்பியல் சிலிக்கான் வரை செல்வதற்குத் தேவையான தொழில்நுட்ப நிபுணத்துவத்தை வழங்குகிறது. ASIC அணுகுமுறையைப் பயன்படுத்துவதன் மூலம், OpenAI தனது மாடல்களுக்குத் தேவையான குறிப்பிட்ட கணிதச் செயல்பாடுகளை—அதாவது மேட்ரிக்ஸ் பெருக்கல் (matrix multiplication) மற்றும் அட்ஸென்ஷன் மெக்கானிசம் (attention mechanisms) போன்றவற்றை—நேரடியாக வன்பொருள் சுற்றுகளில் (hardware circuitry) இணைக்க முடியும்.

பொதுவான பயன்பாட்டிற்கான வன்பொருள்களால் இத்தகைய மேம்படுத்தலை (optimization) அடைவது கடினம். ஒரு ASIC தேவையற்ற அம்சங்களின் சுமையைக் குறைத்து, transformer-அடிப்படையிலான கட்டமைப்புகளுக்கு மிக முக்கியமான கணக்கீட்டு அலகுகளுக்கு (compute units) அதிக die area-வை ஒதுக்குகிறது. டெவலப்பர்கள் மற்றும் நிறுவனர்களுக்கு, இந்த மாற்றம் மாடல்களைப் பயன்படுத்துவது பொருளாதார ரீதியாகத் தொடர்ச்சியாக இருக்கும் ஒரு எதிர்காலத்தைக் காட்டுகிறது; இது தற்போதைய செலவில் ஒரு சிறு பகுதி மட்டுமே செலவில் சிக்கலான தர்க்க ரீதியான மாடல்களை (reasoning models) இயக்க வழிவகுக்கும்.

AI உள்கட்டமைப்புச் சூழலுக்கான தாக்கங்கள்

Jalapeño சிப்பின் வருகை AIத் துறையில் ஒரு பரந்த மாற்றத்தைக் குறிக்கிறது: அதுவே "Model-Hardware Co-design" காலம். அதிநவீன மாடல்கள் (frontier models) அதிகத் தனித்துவமானவையாக மாறும் போது, பொதுவான வன்பொருள்களால் செய்யக்கூடியவற்றுக்கும், மேம்படுத்தப்பட்ட சிலிக்கான் எதைச் சாதிக்க முடியும் என்பதற்கும் இடையிலான இடைவெளி மேலும் அதிகரிக்கும்.

OpenAI இந்தத் தனிப்பயனாக்கப்பட்ட சிலிக்கானை வெற்றிகரமாக விரிவுபடுத்தினால், அது ஒரு வலிமையான பாதுகாப்பை (moat) உருவாக்கும். இது விரிவாக்கத்திற்கான நேரடிச் செலவைக் குறைப்பது மட்டுமல்லாமல், ஒரு பிரத்யேக வன்பொருள்-மென்பொருள் தொகுப்பையும் (proprietary hardware-software stack) வழங்குகிறது; சந்தையில் கிடைக்கும் சாதாரண சிப்புகளை (off-the-shelf chips) மட்டுமே நம்பியிருக்கும் போட்டியாளர்கள், விலை-செயல்திறன் (price-performance) அடிப்படையில் இதைச் சமாளிக்கத் திணறுவார்கள். இந்த நடவடிக்கை முழு AI மதிப்புச் சங்கிலியையும் (AI value chain) மறுமதிப்பீடு செய்யத் தூண்டுகிறது, இது மிகவும் வெற்றிகரமான AI ஆய்வகங்களே மிகவும் திறமையான வன்பொருள் வடிவமைப்பாளர்களாக இருக்கும் ஒரு மாதிரியை நோக்கித் தொழில்துறையைத் தள்ளுகிறது.

முக்கியக் குறிப்புகள்

• செலவு குறைப்பு: Nvidia போன்ற வன்பொருள் வழங்குநர்களின் அதிக லாப வரம்புகளைத் தவிர்ப்பதற்கும், மிகப்பெரிய மூலதனச் செலவுகளைக் குறைப்பதற்கும் Jalapeño சிப் ஒரு மூலோபாய நடவடிக்கையாகும்.
• சிறப்பு வாய்ந்த கட்டமைப்பு: Broadcom உடன் இணைந்து உருவாக்கப்பட்ட இந்த ASIC, பொதுவான கணினித் தேவைகளுக்காக அல்லாமல், LLM inference-ன் கணிதத் தேவைகளுக்காகவே பிரத்யேகமாக மேம்படுத்தப்பட்டுள்ளது.
• செங்குத்து ஒருங்கிணைப்பு: OpenAI ஒரு co-design மாதிரியை நோக்கி நகர்கிறது; இதில் தனிப்பயனாக்கப்பட்ட சிலிக்கான் மற்றும் மேம்பட்ட மென்பொருள் ஆகியவை இணைந்து செயல்பட்டு, ஒரு டோக்கனுக்கான செலவைக் குறைத்து, மிகப்பெரிய அளவில் விரிவாக்கத்தை (massive scale) சாத்தியமாக்குகின்றன.