Inaripotiwa kuwa Apple iko katika mazungumzo ya awali na PrismML, kampuni changa inayoungwa mkono na Khosla Ventures, ili kuunganisha teknolojia ya kisasa ya ufupishaji wa modeli (model compression) katika mfumo wake. Hatua hii inalenga kuleta akili mnemba (AI) ya hali ya juu moja kwa moja kwenye iPhone, ikiondoa pengo kati ya ukomo wa vifaa vya simu na mahitaji makubwa ya kishughulikiaji ya mifumo mikubwa ya lugha (LLMs).

Kutatua Changamoto ya AI Kwenye Kifaa

Wakati Apple ikizindua iOS 18 na Siri iliyoboreshwa, kampuni inakabiliwa na kikwazo kikubwa cha kiufundi: modeli za AI zenye ufanisi mkubwa kwa kawaida zinahitaji kiasi kikubwa cha kumbukumbu (memory) na nguvu ya usindikaji inayozidi uwezo wa simu za kisasa. Kwa kuunganisha teknolojia ya PrismML, Apple inatafuta kuhamisha usindikaji kutoka kwenye wingu (cloud) kwenda kwenye kifaa chenyewe.

Mabadiliko haya ni muhimu kwa mkakati wa Apple. AI inayofanya kazi kwenye kifaa inapunguza ucheleweshaji (latency), hupunguza gharama kubwa za usindikaji wa wingu, na kuimarisha ahadi ya Apple ya faragha kwa kuhakikisha data nyeti za mtumiaji zinabaki kwenye simu. Zaidi ya hayo, inaruhusu vipengele muhimu vya AI kufanya kazi hata bila muunganisho wa intaneti.

Jinsi PrismML Inavyofupisha Modeli Kubwa za AI

PrismML, ambayo ilitokana na utafiti katika California Institute of Technology, inatumia mbinu ya kisasa ya kurahisisha jinsi thamani za ndani za modeli zinavyohifadhiwa. Wakati mbinu za kizamani zinaweza kupunguza namba kutoka bit 16 hadi bit 4, PrismML inaenda mbali zaidi, ikipunguza kila namba hadi thamani moja au tatu tu zinazowezekana.

Mafanikio ya ufanisi ni makubwa. PrismML hivi karibuni ilionyesha hili kwa kufupisha modeli ya Qwen ya Alibaba (open-source) kutoka GB 54 kubwa hadi chini ya GB 4. Ufupishaji huu unaruhusu vigezo vyote 27 bilioni vya modeli hiyo kufanya kazi kwenye iPhone 15 au zaidi. Kulingana na CEO Babak Hassibi, modeli hizi zilizofupishwa zinatoa faida kadhaa za utendaji:

  • Ufanisi wa Kumbukumbu: Inatumia kumbukumbu kidogo hadi mara 15.
  • Kasi: Inafanya kazi haraka mara sita hadi nane.
  • Matumizi ya Nishati: Inatumia nishati kidogo hadi mara sita.

Ingawa Hassibi alibainisha kupungua kidogo kwa utendaji—hususan kuhusu uwezo wa kukumbuka ukweli—modeli hizo zinadumisha uwezo mkubwa katika uwezo wa kufikiri (reasoning) na uwezo wa kuandika kodi (coding).

Athari kwa Masoko ya Semiconductor na Vifaa

Uwezekano wa teknolojia hii ya ufupishaji kutumiwa na kampuni kubwa kama Apple unaweza kubadilisha mazingira kwa watengenezaji wa vifaa. Kwa sasa, wachambuzi kama Morgan Stanley wanatabiri kuwa gharama za kumbukumbu za Apple zinaweza kuongezeka kwa kasi ifikapo mwaka wa fedha 2027 ili kusaidia AI, jambo ambalo linaweza kusababisha bei za iPhone kuwa juu zaidi.

Hata hivyo, ikiwa teknolojia ya PrismML itakuwa kiwango cha kawaida, mahitaji ya moduli kubwa za kumbukumbu kwenye simu zinaweza kupungua, hata wakati hitaji la usindikaji wa ndani wa kasi na ufanisi linapoongezeka. Wakati PrismML ikielekea kufupisha modeli nyingine kubwa kama Gemma ya Google, lengo linabaki kuwa wazi: kufanya akili ya hali ya juu iwe ya ndani, ya haraka, na inayopatikana kwenye vifaa vya watumiaji.

Mambo Muhimu ya Kuzingatia

  • Ufupishaji Mkubwa: PrismML inaweza kusinyaa modeli ya AI ya GB 54 hadi chini ya GB 4, na kuifanya iweze kutumika kwenye simu za hali ya juu kama iPhone 15.
  • Mafanikio ya Ufanisi: Teknolojia hii inaahidi matumizi ya kumbukumbu kidogo hadi mara 15 na matumizi ya nishati kidogo hadi mara 6, jambo ambalo ni muhimu kwa kudumisha muda wa betri wakati wa kazi za AI.
  • Faragha na Kasi: Kuhamisha AI kutoka kwenye wingu kwenda kwenye kifaa kutapunguza ucheleweshaji na kuimarisha faragha ya mtumiaji, msingi wa falsafa ya bidhaa za Apple.

Riski na maswali ya wazi

Matokeo ya PrismML yanaahidi lakini bado yapo katika hatua za awali.

Nini cha kufuatilia baadaye

  • Uthibitisho rasmi: Apple haijatangaza ushirikiano wowote, hivyo taarifa yoyote ya habari au maelezo ya iOS 18 beta kuhusu LLMs za kwenye kifaa itakuwa ishara muhimu.

Hitimisho: Ufupishaji wa PrismML unaweza kuwezesha iPhone kutumia modeli kubwa za lugha (large language models) bila kuongeza mzigo wa kumbukumbu au kuisha kwa betri, na kutoa uzoefu wa AI wa haraka na wa faragha.