Apple એ અહેવાલ મુજબ PrismML સાથે પ્રાથમિક ચર્ચાઓ કરી રહ્યું છે, જે Khosla Ventures દ્વારા સમર્થિત સ્ટાર્ટઅપ છે, જેથી તેના ઇકોસિસ્ટમમાં અદ્યતન મોડેલ કમ્પ્રેશન ટેકનોલોજીને સંકલિત કરી શકાય. આ પગલાનો હેતુ અત્યાધુનિક આર્ટિફિશિયલ ઇન્ટેલિજન્સને સીધું iPhone પર લાવવાનો છે, જે મોબાઈલ હાર્ડવેરની મર્યાદાઓ અને આધુનિક Large Language Models (LLMs) ની વિશાળ કમ્પ્યુટેશનલ જરૂરિયાતો વચ્ચેના અંતરને ઘટાડે છે.

ઓન-ડિવાઇસ AI મર્યાદાનું નિરાકરણ

જેમ જેમ Apple iOS 18 અને રિડિઝાઇન કરેલ Siri લોન્ચ કરી રહ્યું છે, તેમ કંપની એક મહત્વપૂર્ણ ટેકનિકલ અવરોધનો સામનો કરી રહી છે: ઉચ્ચ-પ્રદર્શન ધરાવતા AI મોડેલ્સ માટે સામાન્ય રીતે વિશાળ પ્રમાણમાં મેમરી અને પ્રોસેસિંગ પાવરની જરૂર હોય છે જે સ્ટાન્ડર્ડ સ્માર્ટફોનની ક્ષમતા કરતા વધી જાય છે. PrismML ની ટેકનોલોજીને સંકલિત કરીને, Apple પ્રોસેસિંગને ક્લાઉડથી સીધું ઉપકરણ (device) પર લાવવાનો પ્રયાસ કરી રહ્યું છે.

આ પરિવર્તન Apple ના વ્યૂહાત્મક સ્થાન માટે નિર્ણાયક છે. ઓન-ડિવાઇસ AI લેટન્સી (latency) ઘટાડે છે, મોંઘા ક્લાઉડ કમ્પ્યુટિંગ ખર્ચને ઘટાડે છે, અને સંવેદનશીલ યુઝર ડેટા હેન્ડસેટ પર જ રહે તે સુનિશ્ચિત કરીને Apple ના મુખ્ય પ્રાઇવસી વચનને મજબૂત બનાવે છે. વધુમાં, તે ઇન્ટરનેટ કનેક્શન વગર પણ મુખ્ય AI ફીચર્સને કાર્યરત કરવાની મંજૂરી આપે છે.

PrismML વિશાળ AI મોડેલ્સને કેવી રીતે નાનું બનાવે છે

PrismML, જેની શરૂઆત California Institute of Technology ના સંશોધનમાંથી થઈ હતી, તે મોડેલના આંતરિક મૂલ્યો કેવી રીતે સંગ્રહિત થાય છે તેને સરળ બનાવવાની એક અત્યાધુનિક પદ્ધતિનો ઉપયોગ કરે છે. જ્યારે પરંપરાગત પદ્ધતિઓ આંકડાઓને 16 bits થી 4 bits સુધી ઘટાડી શકે છે, ત્યારે PrismML આનાથી એક ડગલું આગળ વધીને, દરેક આંકડાને માત્ર એક અથવા ત્રણ શક્ય મૂલ્યો સુધી ઘટાડે છે.

કાર્યક્ષમતામાં થતો વધારો નોંધપાત્ર છે. PrismML એ તાજેતરમાં Alibaba ના ઓપન-સોર્સ Qwen મોડેલને 54 GB થી ઘટાડીને 4 GB થી પણ ઓછું કરીને આ સાબિત કર્યું છે. આ કમ્પ્રેશન મોડેલના તમામ 27 બિલિયન પેરામીટર્સને iPhone 15 અથવા તેનાથી નવા મોડેલમાં કાર્યરત કરવાની મંજૂરી આપે છે. CEO Babak Hassibi ના જણાવ્યા અનુસાર, આ સંકુચિત (compressed) મોડેલ્સ અનેક પર્ફોર્મન્સ ફાયદાઓ આપે છે:

  • મેમરી કાર્યક્ષમતા: 15 ગણો ઓછી મેમરીનો ઉપયોગ કરે છે.
  • ઝડપ: છ થી આઠ ગણી ઝડપથી ચાલે છે.
  • પાવર વપરાશ: છ ગણો ઓછો ઉર્જા વપરાશ કરે છે.

જોકે Hassibi એ પર્ફોર્મન્સમાં થોડો ઘટાડો નોંધ્યો હતો—ખાસ કરીને ફેક્ટ્યુઅલ રિકોલ (factual recall) ના સંદર્ભમાં—પરંતુ મોડેલ્સ રીઝનિંગ અને કોડિંગ ક્ષમતાઓમાં ઉચ્ચ કુશળતા જાળવી રાખે છે.

સેમિકન્ડક્ટર અને હાર્ડવેર માર્કેટ માટે અસરો

Apple જેવી દિગ્ગજ કંપની દ્વારા આવી કમ્પ્રેશન ટેકનોલોજીનો સંભવિત સ્વીકાર હાર્ડવેર ઉત્પાદકો માટે પરિદ્રશ્ય બદલી શકે છે. હાલમાં, Morgan Stanley જેવા વિશ્લેષકો આગાહી કરે છે કે AI ને સપોર્ટ કરવા માટે Apple ના મેમરી ખર્ચમાં નાણાકીય વર્ષ 2027 સુધીમાં તીવ્ર વધારો થઈ શકે છે, જેનાથી iPhone ની કિંમતો વધી શકે છે.

જોકે, જો PrismML ની ટેકનોલોજી એક સ્ટાન્ડર્ડ બની જાય, તો સ્માર્ટફોન્સમાં વિશાળ મેમરી મોડ્યુલ્સની માંગ ઘટી શકે છે, ભલે હાઇ-સ્પીડ અને કાર્યક્ષમ લોકલ પ્રોસેસિંગની જરૂરિયાત વધતી જાય. જેમ જેમ PrismML Google ના Gemma જેવા અન્ય મુખ્ય મોડેલ્સને કમ્પ્રેસ કરવાની દિશામાં આગળ વધી રહ્યું છે, તેમ તેમ લક્ષ્ય સ્પષ્ટ છે: ઉચ્ચ સ્તરની બુદ્ધિને કન્ઝ્યુમર હાર્ડવેર પર લોકલ, ઝડપી અને સુલભ બનાવવી.

મુખ્ય મુદ્દાઓ

  • વિશાળ કમ્પ્રેશન: PrismML 54 GB ના AI મોડેલને 4 GB થી પણ ઓછું કરી શકે છે, જે તેને iPhone 15 જેવા હાઇ-એન્ડ સ્માર્ટફોન માટે વ્યવહારુ બનાવે છે.
  • કાર્યક્ષમતામાં વધારો: આ ટેકનોલોજી 15 ગણો ઓછી મેમરી વપરાશ અને 6 ગણો ઓછો ઉર્જા વપરાશનું વચન આપે છે, જે AI કાર્યો દરમિયાન બેટરી લાઇફ જાળવી રાખવા માટે મહત્વપૂર્ણ છે.
  • પ્રાઇવસી અને ઝડપ: AI ને ક્લાઉડથી ઉપકરણ પર લાવવાથી લેટન્સી ઘટશે અને યુઝર પ્રાઇવસી વધશે, જે Apple ની પ્રોડક્ટ ફિલોસોફીનો પાયો છે.

જોખમો અને ખુલ્લા પ્રશ્નો

PrismML ના પરિણામો આશાસ્પદ છે પરંતુ હજુ પ્રારંભિક તબક્કામાં છે.

આગળ શું જોવું

  • સત્તાવાર પુષ્ટિ: Apple એ હજુ સુધી કોઈ ભાગીદારીની જાહેરાત કરી નથી, તેથી ઓન-ડિવાઇસ LLMs વિશે કોઈપણ પ્રેસ રિલીઝ અથવા iOS 18 beta નોટ એ એક મુખ્ય સંકેત હશે.

નિષ્કર્ષ: PrismML નું કમ્પ્રેશન iPhone ને મેમરી વધાર્યા વગર અથવા બેટરી ખર્ચ્યા વગર ખરેખર મોટા લેંગ્વેજ મોડેલ્સ હોસ્ટ કરવાની મંજૂરી આપી શકે છે, જે ઝડપી અને ખાનગી AI અનુભવો પ્રદાન કરશે.