Perché Nvidia sta affrontando un cambiamento del mercato nel bel mezzo del boom dell'IA

Il dominio di Nvidia nella rivoluzione dell'IA sta affrontando una sfida paradossale: lo stesso mercato del calcolo che ha contribuito a creare sta iniziando a giocare contro la sua valutazione. Mentre le proiezioni sui ricavi rimangono solide, un cambiamento nelle dinamiche dell'offerta sta spostando l'attenzione dalla potenza di elaborazione alla capacità di memoria.

La divergenza: calo dei prezzi del calcolo vs aumento dei costi DRAM

Nvidia ha subito una nota correzione di mercato, con il prezzo delle sue azioni sceso del 15% rispetto al picco di maggio. Curiosamente, gli investitori stanno ora valutando Nvidia in modo più conservativo rispetto alla media delle aziende dell'S&P 500 in relazione ai profitti previsti. Questo cambiamento è guidato da una trasformazione fondamentale nel prezzo degli elementi essenziali dell'IA.

Secondo i dati di Ornn, il prezzo spot per un'ora di utilizzo di una GPU Nvidia H100 ha raggiunto il picco a maggio a circa 3,20 dollari e da allora è entrato in una costante discesa. Al contrario, il mercato della memoria sta seguendo una traiettoria opposta. Micron, leader nella produzione di DRAM (Dynamic Random-Access Memory), ha quasi triplicato il suo valore, poiché il settore si sta rendendo conto che la memoria, e non solo l'elaborazione, rappresenta il vero collo di bottiglia per i moderni data center.

L'ascesa del collo di bottiglia della memoria

Mentre il successo di Nvidia si basa su imprese tecnologiche altamente complesse — come la piattaforma di programmazione CUDA e l'ingegneria di GPU incredibilmente intricate — il mercato della memoria è guidato da dinamiche economiche differenti. La massiccia espansione dei data center per l'IA ha portato a una diffusa sottostima della larghezza di banda della memoria necessaria.

La domanda di memoria ad alta larghezza di banda (HBM - High-Bandwidth Memory) sta superando l'offerta, consentendo ai produttori di memorie di decuplicare i prezzi nell'ultimo anno. Come osserva Wayne Nelms, co-fondatore e CTO di Ornn, il settore sta assistendo a un massiccio afflusso di attori nello spazio degli acceleratori, ma quasi nessuno sta entrando nel settore della produzione di DRAM. Ciò crea uno squilibrio strutturale: la potenza di calcolo sta diventando sempre più una commodity, mentre la memoria rimane una necessità scarsa e ad alto margine.

Silicio personalizzato e la fine dei monopoli

Un fattore significativo dietro il calo dei prezzi del calcolo è la tendenza delle Big Tech verso l'indipendenza dal silicio. Giganti come Google, Amazon, Microsoft e OpenAI stanno sempre più implementando i propri processori progettati su misura.

Sebbene questi chip proprietari possano non eguagliare le prestazioni pure dei modelli di punta di Nvidia, sono "abbastanza buoni" per soddisfare le esigenze di implementazioni su larga scala. Questa diversificazione del panorama hardware sta di fatto abbassando il prezzo spot del calcolo, riducendo il potere di determinazione dei prezzi di Nvidia. Man mano che sempre più aziende entrano nel mercato degli acceleratori per ridurre la loro dipendenza da Nvidia, il "fossato del calcolo" (compute moat) che un tempo proteggeva i margini di Nvidia viene colmato da silicio specializzato sviluppato internamente.

L'impatto sul panorama più ampio dell'IA

Questo cambiamento segnala una fase di maturazione del ciclo delle infrastrutture dell'IA. La "corsa all'oro" iniziale si è concentrata sull'acquisizione delle GPU più potenti possibili. Stiamo ora entrando in una fase di ottimizzazione, in cui l'attenzione si sta spostando verso l'efficienza del movimento dei dati — governato dalla memoria — piuttosto che sulla sola velocità pura di calcolo. Per sviluppatori e fondatori, ciò significa che l'importanza architettonica della gestione della memoria e dell'efficienza HBM diventerà probabilmente critica quanto la scelta della GPU.

Punti chiave

• Commoditizzazione del calcolo: La proliferazione di silicio personalizzato da parte degli hyperscaler (Google, AWS, ecc.) sta abbassando il prezzo spot della potenza di calcolo delle GPU.
• La memoria come nuovo collo di bottiglia: La domanda di DRAM e memoria ad alta larghezza di banda (HBM) sta superando l'offerta, rendendo le aziende di memorie come Micron i nuovi beneficiari ad alta crescita del settore dell'IA.
• Squilibrio strutturale del mercato: A differenza del mercato delle GPU, che vede costanti nuovi entranti, il mercato della memoria presenta alte barriere all'ingresso, garantendo che i costi della memoria rimangano elevati mentre i prezzi del calcolo si stabilizzano.