ॲपलने आपल्या इकोसिस्टममध्ये प्रगत मॉडेल कॉम्प्रेशन तंत्रज्ञान समाविष्ट करण्यासाठी Khosla Ventures समर्थित स्टार्टअप PrismML सोबत प्राथमिक चर्चा सुरू केल्याचे समजते. या हालचालीचा उद्देश अत्याधुनिक कृत्रिम बुद्धिमत्ता (AI) थेट iPhone वर आणणे हा आहे, ज्यामुळे मोबाईल हार्डवेअरच्या मर्यादा आणि आधुनिक Large Language Models (LLMs) ची प्रचंड संगणकीय आवश्यकता यातील अंतर कमी होईल.

ऑन-डिव्हाइस AI मधील मर्यादा सोडवणे

ॲपल जसे iOS 18 आणि पुनर्रचित Siri लाँच करत आहे, तसे कंपनीसमोर एक मोठे तांत्रिक आव्हान उभे आहे: उच्च-कार्यक्षमता असलेल्या AI मॉडेल्सना सहसा मोठ्या प्रमाणात मेमरी आणि प्रोसेसिंग पॉवरची आवश्यकता असते, जी सामान्य स्मार्टफोनच्या क्षमतेपेक्षा जास्त असते. PrismML चे तंत्रज्ञान समाविष्ट करून, ॲपल प्रोसेसिंग क्लाउडवरून थेट डिव्हाइसवर आणण्याचा प्रयत्न करत आहे.

ॲपलच्या धोरणात्मक स्थानासाठी हा बदल अत्यंत महत्त्वाचा आहे. ऑन-डिव्हाइस AI मुळे लॅटन्सी (latency) कमी होते, महागड्या क्लाउड कॉम्प्युटिंगचा खर्च कमी होतो आणि संवेदनशील वापरकर्ता डेटा हँडसेटवरच राहण्याची खात्री करून ॲपलच्या गोपनीयतेच्या (privacy) मुख्य आश्वासनाला बळकटी मिळते. शिवाय, यामुळे इंटरनेट कनेक्शन नसतानाही महत्त्वाच्या AI वैशिष्ट्यांवर काम करणे शक्य होते.

PrismML अवाढव्य AI मॉडेल्सना कसे लहान करते

California Institute of Technology मधील संशोधनातून उगम पावलेल्या PrismML मध्ये, मॉडेलची अंतर्गत मूल्ये कशी साठवली जातात, हे सोपे करण्यासाठी एका प्रगत पद्धतीचा वापर केला जातो. पारंपारिक पद्धतींमध्ये आकडे 16 bits वरून 4 bits पर्यंत कमी केले जाऊ शकतात, परंतु PrismML एक पाऊल पुढे जाऊन प्रत्येक आकडा केवळ एक किंवा तीन संभाव्य मूल्यांपर्यंत कमी करते.

यामुळे मिळणारा कार्यक्षमता लाभ लक्षणीय आहे. PrismML ने अलीकडेच Alibaba च्या ओपन-सोर्स Qwen मॉडेलला 54 GB वरून 4 GB च्या खाली कॉम्प्रैस करून हे सिद्ध केले आहे. या कॉम्प्रेशनमुळे मॉडेलचे सर्व 27 अब्ज पॅरामीटर्स iPhone 15 किंवा त्यापेक्षा नवीन मॉडेलवर चालवणे शक्य होते. CEO Babak Hassibi यांच्या म्हणण्यानुसार, या कॉम्प्रैस केलेल्या मॉडेल्सचे अनेक कामगिरी फायदे आहेत:

  • मेमरी कार्यक्षमता (Memory Efficiency): 15 पटीने कमी मेमरी वापरते.
  • वेग (Speed): सहा ते आठ पटीने वेगाने चालते.
  • ऊर्जा वापर (Power Consumption): सहा पटीने कमी ऊर्जा वापरते.

जरी Hassibi यांनी कामगिरीमध्ये थोडी घट—विशेषतः तथ्यात्मक माहिती आठवण्याबाबत (factual recall)—नोंदवली असली, तरी ही मॉडेल्स तर्कशक्ती (reasoning) आणि कोडिंग क्षमतेमध्ये उच्च प्रवीणता राखतात.

सेमीकंडक्टर आणि हार्डवेअर मार्केटवर होणारे परिणाम

ॲपलसारख्या महाकाय कंपनीकडून अशा कॉम्प्रेशन तंत्रज्ञानाचा संभाव्य अवलंब हार्डवेअर उत्पादकांसाठी परिस्थिती बदलू शकतो. सध्या, Morgan Stanley सारखे विश्लेषक असा अंदाज वर्तवत आहेत की, AI ला सपोर्ट करण्यासाठी ॲपलचा मेमरी खर्च आर्थिक वर्ष 2027 पर्यंत मोठ्या प्रमाणात वाढू शकतो, ज्यामुळे iPhone च्या किमती वाढू शकतात.

तथापि, जर PrismML चे तंत्रज्ञान एक मानक (standard) बनले, तर स्मार्टफोनमधील अवाढव्य मेमरी मॉड्यूल्सची मागणी कमी होऊ शकते, जरी उच्च-वेगवान आणि कार्यक्षम स्थानिक प्रोसेसिंगची गरज वाढत असली तरीही. PrismML आता Google च्या Gemma सारख्या इतर प्रमुख मॉडेल्सना कॉम्प्रैस करण्याच्या दिशेने वाटचाल करत असताना, त्यांचे ध्येय स्पष्ट आहे: उच्च-स्तरीय बुद्धिमत्ता स्थानिक, वेगवान आणि ग्राहक हार्डवेअरवर सहज उपलब्ध करून देणे.

मुख्य निष्कर्ष

  • अवाढव्य कॉम्प्रेशन: PrismML 54 GB चे AI मॉडेल 4 GB च्या खाली आणू शकते, ज्यामुळे ते iPhone 15 सारख्या हाय-एंड स्मार्टफोनसाठी व्यवहार्य बनते.
  • कार्यक्षमता लाभ: हे तंत्रज्ञान 15 पटीने कमी मेमरी वापर आणि 6 पटीने कमी ऊर्जा वापराचे आश्वासन देते, जे AI टास्क दरम्यान बॅटरी लाईफ टिकवून ठेवण्यासाठी अत्यंत आवश्यक आहे.
  • गोपनीयता आणि वेग: AI क्लाउडवरून डिव्हाइसवर आणल्यामुळे लॅटन्सी कमी होईल आणि वापरकर्त्याची गोपनीयता वाढेल, जो ॲपलच्या उत्पादन तत्त्वज्ञानाचा आधार आहे.

जोखीम आणि उघडे प्रश्न

PrismML चे निकाल आश्वासक आहेत परंतु अजूनही सुरुवातीच्या टप्प्यात आहेत.

पुढे काय पाहावे

  • अधिकृत पुष्टी: ॲपलने अद्याप कोणत्याही भागीदारीची घोषणा केलेली नाही, त्यामुळे ऑन-डिव्हाइस LLMs बद्दलची कोणतीही प्रेस रिलीज किंवा iOS 18 beta नोट हा एक महत्त्वाचा संकेत असेल.

थोडक्यात सांगायचे तर: PrismML च्या कॉम्प्रेशनमुळे आयफोन मेमरीचा भार न वाढवता किंवा बॅटरी संपवल्याशिवाय खरोखरच मोठ्या लँग्वेज मॉडेल्सना होस्ट करू शकतील, ज्यामुळे जलद आणि खाजगी AI अनुभव मिळेल.