Apple, Khosla Ventures പിന്തുണയുള്ള PrismML എന്ന സ്റ്റാർട്ടപ്പുമായി തങ്ങളുടെ ഇക്കോസിസ്റ്റത്തിൽ അത്യാധുനിക മോഡൽ കംപ്രഷൻ സാങ്കേതികവിദ്യ സംയോജിപ്പിക്കുന്നതിനായി പ്രാഥമിക ചർച്ചകളിൽ ഏർപ്പെട്ടിരിക്കുകയാണെന്ന് റിപ്പോർട്ടുകൾ സൂചിപ്പിക്കുന്നു. മൊബൈൽ ഹാർഡ്‌വെയറിന്റെ പരിമിതികളും ആധുനിക Large Language Models (LLMs)-ന്റെ വൻതോതിലുള്ള കമ്പ്യൂട്ടേഷണൽ ആവശ്യകതകളും തമ്മിലുള്ള അകലം കുറച്ച്, അത്യാധുനിക ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് നേരിട്ട് iPhone-ലേക്ക് എത്തിക്കുക എന്നതാണ് ഈ നീക്കത്തിന്റെ ലക്ഷ്യം.

ഓൺ-ഡിവൈസ് AI പരിമിതികൾ പരിഹരിക്കൽ

Apple iOS 18-ഉം പുനർരൂപകൽപ്പന ചെയ്ത Siri-യും പുറത്തിറക്കുമ്പോൾ, കമ്പനി ഒരു വലിയ സാങ്കേതിക വെല്ലുവിളി നേരിടുന്നുണ്ട്: ഉയർന്ന പ്രകടനം കാഴ്ചവെക്കുന്ന AI മോഡലുകൾക്ക് സാധാരണ സ്മാർട്ട്ഫോണുകളുടെ ശേഷിയേക്കാൾ വളരെ കൂടുതലായ മെമ്മറിയും പ്രോസസ്സിംഗ് പവറും ആവശ്യമാണ്. PrismML-ന്റെ സാങ്കേതികവിദ്യ സംയോജിപ്പിക്കുന്നതിലൂടെ, പ്രോസസ്സിംഗ് ക്ലൗഡിൽ നിന്ന് നേരിട്ട് ഉപകരണത്തിലേക്ക് (device) മാറ്റാൻ Apple ലക്ഷ്യമിടുന്നു.

Apple-ന്റെ തന്ത്രപരമായ നിലപാടിൽ ഈ മാറ്റം നിർണ്ണായകമാണ്. ഓൺ-ഡിവൈസ് AI ഉപയോഗിക്കുന്നത് ലേറ്റൻസി (latency) കുറയ്ക്കാനും, ചെലവേറിയ ക്ലൗഡ് കമ്പ്യൂട്ടിംഗ് ചിലവുകൾ കുറയ്ക്കാനും സഹായിക്കുന്നു. കൂടാതെ, ഉപയോക്താവിന്റെ സെൻസിറ്റീവ് ആയ ഡാറ്റ ഫോണിൽ തന്നെ സുരക്ഷിതമായിരിക്കുന്നതിലൂടെ Apple-ന്റെ സ്വകാര്യത ഉറപ്പാക്കാനുള്ള വാഗ്ദാനവും ഇത് ശക്തിപ്പെടുത്തുന്നു. ഇതിനുപുറമെ, ഇന്റർനെറ്റ് കണക്ഷൻ ഇല്ലാതെ തന്നെ പ്രധാനപ്പെട്ട AI ഫീച്ചറുകൾ പ്രവർത്തിക്കാൻ ഇത് അനുവദിക്കുന്നു.

PrismML എങ്ങനെയാണ് വൻകിട AI മോഡലുകളെ ചെറുതാക്കുന്നത്?

California Institute of Technology-ലെ ഗവേഷണങ്ങളിൽ നിന്ന് രൂപപ്പെട്ട PrismML, ഒരു മോഡലിന്റെ ആന്തരിക മൂല്യങ്ങൾ (internal values) എങ്ങനെ സംഭരിക്കുന്നു എന്നത് ലഘൂകരിക്കുന്നതിനുള്ള അത്യാധുനികമായ ഒരു രീതി ഉപയോഗിക്കുന്നു. പരമ്പരാഗത രീതികൾ സംഖ്യകളെ 16 ബിറ്റിൽ നിന്ന് 4 ബിറ്റിലേക്ക് കുറയ്ക്കുമ്പോൾ, PrismML ഇതിനെ ഒരു പടി കൂടി മുന്നോട്ട് കൊണ്ടുപോയി ഓരോ സംഖ്യയെയും ഒന്നോ മൂന്നോ മൂല്യങ്ങളിലേക്ക് മാത്രം കുറയ്ക്കുന്നു.

ഇതിലൂടെ ലഭിക്കുന്ന കാര്യക്ഷമത വളരെ വലുതാണ്. Alibaba-യുടെ ഓപ്പൺ സോഴ്സ് ആയ Qwen മോഡലിനെ 54 GB-യിൽ നിന്ന് 4 GB-യിൽ താഴെയായി കുറയ്ക്കാൻ സാധിക്കുമെന്ന് PrismML അടുത്തിടെ തെളിയിച്ചു. ഈ കംപ്രഷൻ വഴി മോഡലിലെ 27 ബില്യൺ പാരാമീറ്ററുകളും iPhone 15 അല്ലെങ്കിൽ അതിനു ശേഷമുള്ള ഫോണുകളിൽ പ്രവർത്തിപ്പിക്കാൻ സാധിക്കും. CEO Babak Hassibi പറയുന്നതനുസരിച്ച്, ഈ കംപ്രസ്ഡ് മോഡലുകൾ മികച്ച പ്രകടന ഗുണങ്ങൾ നൽകുന്നു:

  • മെമ്മറി കാര്യക്ഷമത: 15 മടങ്ങ് വരെ കുറഞ്ഞ മെമ്മറി ഉപയോഗിക്കുന്നു.
  • വേഗത: ആറ് മുതൽ എട്ട് മടങ്ങ് വരെ വേഗത്തിൽ പ്രവർത്തിക്കുന്നു.
  • ഊർജ്ജ ഉപഭോഗം: ആറ് മടങ്ങ് വരെ കുറഞ്ഞ ഊർജ്ജം മാത്രം ഉപയോഗിക്കുന്നു.

ഫാക്ച്വൽ റീക്കോൾ (factual recall) കാര്യത്തിൽ നേരിയ കുറവ് ഉണ്ടായതായി Hassibi സൂചിപ്പിച്ചെങ്കിലും, റീസണിംഗ് (reasoning), കോഡിംഗ് (coding) കഴിവുകളിൽ ഈ മോഡലുകൾ ഉയർന്ന പ്രാവീണ്യം നിലനിർത്തുന്നു.

സെമികണ്ടക്ടർ, ഹാർഡ്‌വെയർ വിപണികളിലെ സ്വാധീനം

Apple പോലുള്ള ഒരു വമ്പൻ കമ്പനി ഇത്തരമൊരു കംപ്രഷൻ സാങ്കേതികവിദ്യ സ്വീകരിക്കുന്നത് ഹാർഡ്‌വെയർ നിർമ്മാതാക്കളുടെ വിപണിയെ മാറ്റിമറിച്ചേക്കാം. നിലവിൽ, AI പിന്തുണയ്ക്കായി Apple-ന്റെ മെമ്മറി ചിലവ് 2027 സാമ്പത്തിക വർഷത്തോടെ കുത്തനെ ഉയരാൻ സാധ്യതയുണ്ടെന്ന് Morgan Stanley പോലുള്ള അനലിസ്റ്റുകൾ പ്രവചിക്കുന്നു, ഇത് iPhone വില വർദ്ധിക്കാൻ കാരണമായേക്കാം.

എങ്കിലും, PrismML-ന്റെ സാങ്കേതികവിദ്യ ഒരു മാനദണ്ഡമായി മാറിയാൽ, സ്മാർട്ട്ഫോണുകളിൽ വൻതോതിലുള്ള മെമ്മറി മോഡ്യൂളുകളുടെ ആവശ്യം കുറഞ്ഞേക്കാം; അതേസമയം ഉയർന്ന വേഗതയുള്ളതും കാര്യക്ഷമവുമായ ലോക്കൽ പ്രോസസ്സിംഗിന്റെ ആവശ്യം വർദ്ധിക്കുകയും ചെയ്യും. Google-ന്റെ Gemma പോലുള്ള മറ്റ് പ്രധാന മോഡലുകളെ കംപ്രസ്സ് ചെയ്യുന്നതിനായി PrismML മുന്നോട്ട് പോകുമ്പോൾ, ഉയർന്ന നിലവാരത്തിലുള്ള ഇന്റലിജൻസ് ഉപഭോക്താക്കളുടെ ഹാർഡ്‌വെയറിൽ തന്നെ വേഗത്തിലും എളുപ്പത്തിലും ലഭ്യമാക്കുക എന്നതാണ് ഇതിന്റെ ലക്ഷ്യം.

പ്രധാന കാര്യങ്ങൾ

  • വൻതോതിലുള്ള കംപ്രഷൻ: PrismML-ന് 54 GB വലിപ്പമുള്ള ഒരു AI മോഡലിനെ 4 GB-യിൽ താഴെയായി ചുരുക്കാൻ കഴിയും, ഇത് iPhone 15 പോലുള്ള ഹൈ-എൻഡ് സ്മാർട്ട്ഫോണുകളിൽ ഉപയോഗിക്കാൻ അനുയോജ്യമാക്കുന്നു.
  • കാര്യക്ഷമത: ഈ സാങ്കേതികവിദ്യ 15 മടങ്ങ് വരെ കുറഞ്ഞ മെമ്മറി ഉപയോഗവും 6 മടങ്ങ് വരെ കുറഞ്ഞ ഊർജ്ജ ഉപഭോഗവും വാഗ്ദാനം ചെയ്യുന്നു, ഇത് AI ജോലികൾ ചെയ്യുമ്പോൾ ബാറ്ററി ലൈഫ് നിലനിർത്താൻ അത്യാവശ്യമാണ്.
  • സ്വകാര്യതയും വേഗതയും: AI ക്ലൗഡിൽ നിന്ന് ഉപകരണത്തിലേക്ക് മാറ്റുന്നത് ലേറ്റൻസി കുറയ്ക്കുകയും ഉപയോക്താവിന്റെ സ്വകാര്യത വർദ്ധിപ്പിക്കുകയും ചെയ്യും, ഇത് Apple-ന്റെ ഉൽപ്പന്ന തത്വശാസ്ത്രത്തിന്റെ അടിസ്ഥാനമാണ്.

അപകടസാധ്യതകളും തുറന്ന ചോദ്യങ്ങളും

PrismML-ന്റെ ഫലങ്ങൾ പ്രതീക്ഷ നൽകുന്നതാണെങ്കിലും ഇവ ഇപ്പോഴും പ്രാരംഭ ഘട്ടത്തിലാണ്.

ഇനി ശ്രദ്ധിക്കേണ്ടവ

  • ഔദ്യോഗിക സ്ഥിരീകരണം: Apple ഇതുവരെ ഒരു പങ്കാളിത്തം പ്രഖ്യാപിച്ചിട്ടില്ല, അതിനാൽ ഓൺ-ഡിവൈസ് LLM-കളെ കുറിച്ച് വരുന്ന ഏതെങ്കിലും പ്രസ് റിലീസോ iOS 18 ബീറ്റ നോട്ട്സോ പ്രധാന സൂചനകളായിരിക്കും.

ചുരുക്കത്തിൽ: മെമ്മറി വർദ്ധിപ്പിക്കുകയോ ബാറ്ററി തീർക്കുകയോ ചെയ്യാതെ തന്നെ യഥാർത്ഥത്തിൽ വലിയ ലാംഗ്വേജ് മോഡലുകൾ ഹോസ്റ്റ് ചെയ്യാൻ PrismML-ന്റെ കംപ്രഷൻ ഐഫോണുകളെ സഹായിച്ചേക്കാം, ഇത് വേഗതയേറിയതും സ്വകാര്യത ഉറപ്പാക്കുന്നതുമായ AI അനുഭവങ്ങൾ നൽകും.