Apple தனது ecosystem-இல் மேம்பட்ட மாடல் கம்ப்ரஷன் (model compression) தொழில்நுட்பத்தை ஒருங்கிணைக்க, Khosla Ventures ஆதரவு பெற்ற PrismML என்ற ஸ்டார்ட்அப் நிறுவனத்துடன் ஆரம்பகட்ட பேச்சுவார்த்தைகளில் ஈடுபட்டுள்ளதாகத் தகவல்கள் தெரிவிக்கின்றன. இந்த நடவடிக்கை, மொபைல் வன்பொருள் (hardware) வரம்புகளுக்கும், நவீன Large Language Models (LLMs)-இன் பிரம்மாண்டமான கணக்கீட்டுத் தேவைகளுக்கும் இடையிலான இடைவெளியைக் குறைத்து, அதிநவீன செயற்கை நுண்ணறிவை (AI) நேரடியாக iPhone-இல் கொண்டு வருவதை நோக்கமாகக் கொண்டுள்ளது.

சாதனத்திலேயே இயங்கும் AI (On-Device AI) சவாலைத் தீர்த்தல்

Apple நிறுவனம் iOS 18 மற்றும் மறுவடிவமைக்கப்பட்ட Siri-ஐ அறிமுகப்படுத்தும்போது, ஒரு முக்கியமான தொழில்நுட்பத் தடையை எதிர்கொள்கிறது: உயர் செயல்திறன் கொண்ட AI மாடல்களுக்கு பொதுவாக ஸ்மார்ட்போன்களின் சாதாரணத் திறனை விட அதிகமான நினைவகம் (memory) மற்றும் செயலாக்கத் திறன் (processing power) தேவைப்படுகிறது. PrismML-இன் தொழில்நுட்பத்தை ஒருங்கிணைப்பதன் மூலம், செயலாக்கத்தை கிளவுடிலிருந்து (cloud) சாதனத்திற்கே கொண்டு வர Apple முயல்கிறது.

இந்த மாற்றம் Apple-இன் மூலோபாய நிலையை (strategic positioning) உறுதிப்படுத்த முக்கியமானது. On-device AI தாமதத்தைக் (latency) குறைக்கிறது, விலையுயர்ந்த கிளவுட் கம்ப்யூட்டிங் செலவுகளைக் குறைக்கிறது, மேலும் பயனர் தரவுகள் சாதனத்திலேயே இருப்பதை உறுதி செய்வதன் மூலம் Apple-இன் முக்கியத் தனியுரிமை (privacy) வாக்குறுதியை வலுப்படுத்துகிறது. மேலும், இது இணைய இணைப்பு இல்லாமலேயே முக்கிய AI அம்சங்கள் செயல்பட அனுமதிக்கிறது.

PrismML எவ்வாறு பிரம்மாண்டமான AI மாடல்களைச் சுருக்குகிறது

California Institute of Technology-இன் ஆராய்ச்சியில் இருந்து உருவான PrismML, ஒரு மாடலின் உட்புற மதிப்புகள் (internal values) சேமிக்கப்படும் முறையை எளிமையாக்கும் ஒரு மேம்பட்ட நுட்பத்தைப் பயன்படுத்துகிறது. பாரம்பரிய முறைகள் எண்களை 16 பிட்களிலிருந்து 4 பிட்களாகக் குறைக்கலாம், ஆனால் PrismML இதை அடுத்த கட்டத்திற்கு எடுத்துச் சென்று, ஒவ்வொரு எண்ணையும் ஒன்று அல்லது மூன்று சாத்தியமான மதிப்புகளாகக் குறைக்கிறது.

இதன் செயல்திறன் அதிகரிப்பு குறிப்பிடத்தக்கது. Alibaba-வின் திறந்த மூல (open-source) Qwen மாடலை 54 GB-யிலிருந்து 4 GB-க்கும் குறைவாகச் சுருக்கியதன் மூலம் PrismML சமீபத்தில் இதை நிரூபித்தது. இந்தச் சுருக்கம் மாடலின் 27 பில்லியன் அளவுருக்களும் (parameters) iPhone 15 அல்லது அதற்குப் பிந்தைய மாடல்களில் இயங்குவதை அனுமதிக்கிறது. CEO Babak Hassibi-இன் கூற்றுப்படி, இந்தச் சுருக்கப்பட்ட மாடல்கள் பல செயல்திறன் நன்மைகளை வழங்குகின்றன:

  • Memory Efficiency: 15 மடங்கு வரை குறைவான நினைவகத்தைப் பயன்படுத்துகிறது.
  • Speed: ஆறு முதல் எட்டு மடங்கு வேகமாக இயங்குகிறது.
  • Power Consumption: ஆறு மடங்கு வரை குறைவான ஆற்றலை (energy) நுகர்கிறது.

Hassibi, செயல்திறனில் ஒரு சிறிய சரிவு—குறிப்பாகத் தகவல்களைத் துல்லியமாக நினைவுகூருவதில் (factual recall)—இருப்பதைச் சுட்டிக்காட்டினாலும், இந்த மாடல்கள் பகுத்தறிவு (reasoning) மற்றும் கோடிங் (coding) திறன்களில் உயர் செயல்திறனைத் தக்கவைக்கின்றன.

செமிகண்டக்டர் மற்றும் வன்பொருள் சந்தைகளுக்கான தாக்கங்கள்

Apple போன்ற ஒரு giant நிறுவனம் இத்தகைய கம்ப்ரஷன் தொழில்நுட்பத்தை ஏற்றுக்கொண்டால், அது வன்பொருள் உற்பத்தியாளர்களின் நிலப்பரப்பை மாற்றக்கூடும். தற்போது, Morgan Stanley போன்ற ஆய்வாளர்கள், AI-ஐ ஆதரிக்க Apple-இன் நினைவகச் செலவுகள் 2027 நிதியாண்டிற்குள் கடுமையாக உயரக்கூடும் என்று கணித்துள்ளனர், இது iPhone விலையை அதிகரிக்க வழிவகுக்கலாம்.

இருப்பினும், PrismML-இன் தொழில்நுட்பம் ஒரு தரநிலையாக (standard) மாறினால், அதிவேக மற்றும் திறமையான உள்ளூர் செயலாக்கத் தேவை அதிகரித்தாலும், ஸ்மார்ட்போன்களில் பிரம்மாண்டமான மெமரி மாட்யூல்களுக்கான தேவை குறையக்கூடும். PrismML, Google-இன் Gemma போன்ற பிற முக்கிய மாடல்களையும் சுருக்குவதை நோக்கி நகரும்போது, அதன் இலக்கு தெளிவாக உள்ளது: உயர் மட்ட நுண்ணறிவை நுகர்வோர் வன்பொருளில் உள்ளூர் ரீதியாகவும், வேகமாகவும் மற்றும் எளிதாகவும் அணுகக்கூடியதாக மாற்றுவது.

முக்கியக் குறிப்புகள்

  • Massive Compression: PrismML ஒரு 54 GB AI மாடலை 4 GB-க்கும் குறைவாகச் சுருக்க முடியும், இது iPhone 15 போன்ற உயர் ரக ஸ்மார்ட்போன்களுக்குச் சாத்தியமானதாக மாற்றுகிறது.
  • Efficiency Gains: இந்தத் தொழில்நுட்பம் 15 மடங்கு வரை குறைவான நினைவகப் பயன்பாடு மற்றும் 6 மடங்கு குறைவான ஆற்றல் நுகர்வை உறுதி செய்கிறது, இது AI பணிகளின் போது பேட்டரி ஆயுளைப் பராமரிக்க முக்கியமானது.
  • Privacy and Speed: AI-ஐ கிளவுடிலிருந்து சாதனத்திற்கு மாற்றுவது தாமதத்தைக் குறைக்கும் மற்றும் பயனர் தனியுரிமையை மேம்படுத்தும், இது Apple-இன் தயாரிப்புத் தத்துவத்தின் ஒரு முக்கிய அங்கமாகும்.

அபாயங்கள் மற்றும் திறந்த கேள்விகள்

PrismML-இன் முடிவுகள் நம்பிக்கையளிக்கின்றன, ஆனால் இவை இன்னும் ஆரம்பக் கட்டத்திலேயே உள்ளன.

அடுத்து எதைக் கவனிக்க வேண்டும்

  • அதிகாரப்பூர்வ உறுதிப்படுத்தல்: Apple இன்னும் ஒரு கூட்டாண்மையை அறிவிக்கவில்லை, எனவே on-device LLMs பற்றிய எந்தவொரு செய்தி வெளியீடு அல்லது iOS 18 beta குறிப்பும் ஒரு முக்கியத் தகவலாக இருக்கும்.

சுருக்கமாகச் சொன்னால்: PrismML-இன் கம்ப்ரஷன் தொழில்நுட்பம், நினைவகத்தை அதிகப்படுத்தாமலோ அல்லது பேட்டரியை விரைவாகத் தீர்க்காமலோ, iPhone-களில் உண்மையான பெரிய மொழி மாடல்களை (large language models) இயங்கச் செய்யும், இதன் மூலம் வேகமான மற்றும் பாதுகாப்பான AI அனுபவங்களை வழங்கும்.