Apple sarebbe in discussioni preliminari con PrismML, una startup sostenuta da Khosla Ventures, per integrare una tecnologia avanzata di compressione dei modelli nel proprio ecosistema. Questa mossa mira a portare un'intelligenza artificiale sofisticata direttamente sull'iPhone, colmando il divario tra i limiti dell'hardware mobile e i massicci requisiti computazionali dei moderni Large Language Models (LLM).

Risolvere il vincolo dell'IA on-device

Mentre Apple lancia iOS 18 e una versione ridisegnata di Siri, l'azienda si trova ad affrontare un ostacolo tecnico significativo: i modelli IA ad alte prestazioni richiedono solitamente enormi quantità di memoria e potenza di elaborazione che superano le capacità standard degli smartphone. Integrando la tecnologia di PrismML, Apple punta a spostare l'elaborazione dal cloud al dispositivo stesso.

Questo cambiamento è cruciale per il posizionamento strategico di Apple. L'IA on-device riduce la latenza, abbassa i costi elevati del cloud computing e rafforza la promessa fondamentale di privacy di Apple, garantendo che i dati sensibili dell'utente rimangano sul dispositivo. Inoltre, consente alle principali funzioni di IA di funzionare anche senza una connessione internet attiva.

Come PrismML riduce le dimensioni dei modelli IA massicci

PrismML, nato dalle ricerche presso il California Institute of Technology, utilizza un metodo sofisticato per semplificare il modo in cui vengono memorizzati i valori interni di un modello. Mentre i metodi tradizionali potrebbero ridurre i valori da 16 bit a 4 bit, PrismML va oltre, riducendo ogni valore a soli uno o tre possibili valori.

I guadagni in termini di efficienza sono sostanziali. PrismML ha dimostrato recentemente questo vantaggio comprimendo il modello open-source Qwen di Alibaba da un massiccio 54 GB a meno di 4 GB. Questa compressione consente a tutti i 27 miliardi di parametri del modello di funzionare su un iPhone 15 o modelli successivi. Secondo il CEO Babak Hassibi, questi modelli compressi offrono diversi vantaggi prestazionali:

  • Efficienza della memoria: utilizza fino a 15 volte meno memoria.
  • Velocità: esegue i processi da sei a otto volte più velocemente.
  • Consumo energetico: consuma fino a sei volte meno energia.

Sebbene Hassibi abbia notato un modesto calo delle prestazioni — specificamente per quanto riguarda l'accuratezza fattuale — i modelli mantengono un'elevata competenza nelle capacità di ragionamento e di programmazione.

Implicazioni per i mercati dei semiconduttori e dell'hardware

La potenziale adozione di una tale tecnologia di compressione da parte di un gigante come Apple potrebbe cambiare il panorama per i produttori di hardware. Attualmente, analisti come Morgan Stanley prevedono che i costi di memoria di Apple potrebbero aumentare drasticamente entro l'anno fiscale 2027 per supportare l'IA, il che potrebbe portare a prezzi più elevati per l'iPhone.

Tuttavia, se la tecnologia di PrismML diventasse uno standard, la domanda di moduli di memoria massicci negli smartphone potrebbe essere mitigata, anche se la necessità di un'elaborazione locale efficiente e ad alta velocità aumenterà. Mentre PrismML si muove verso la compressione di altri modelli importanti come Gemma di Google, l'obiettivo rimane chiaro: rendere l'intelligenza di alto livello locale, veloce e accessibile sull'hardware consumer.

Punti chiave

  • Compressione massiccia: PrismML può ridurre un modello IA da 54 GB a meno di 4 GB, rendendolo utilizzabile su smartphone di fascia alta come l'iPhone 15.
  • Guadagni di efficienza: la tecnologia promette un utilizzo della memoria fino a 15 volte inferiore e un consumo energetico 6 volte inferiore, elementi vitali per mantenere la durata della batteria durante i compiti di IA.
  • Privacy e velocità: spostare l'IA dal cloud al dispositivo ridurrà la latenza e migliorerà la privacy dell'utente, un pilastro della filosofia dei prodotti Apple.

Rischi e domande aperte

I risultati di PrismML sono promettenti ma ancora in una fase iniziale.

Cosa osservare in seguito

  • Conferma ufficiale: Apple non ha annunciato una partnership, quindi qualsiasi comunicato stampa o nota sulla beta di iOS 18 riguardante gli LLM on-device sarà un segnale chiave.

In sintesi: la compressione di PrismML potrebbe consentire agli iPhone di ospitare modelli linguistici realmente ampi senza saturare la memoria o esaurire la batteria, offrendo esperienze di IA più veloci e private.