𝗡𝗩𝗜𝗗𝗜𝗔 𝗕𝗟𝗔𝗖𝗞𝗪𝗘𝗟𝗟 𝗗𝗢𝗠𝗜𝗡𝗔 𝗠𝗟𝗣𝗘𝗥𝗙 𝗧𝗥𝗔𝗜𝗡𝗜𝗡𝗚 𝟲.𝟬

NVIDIA ha vinto tutti e sette i benchmark nell'ultima suite MLPerf Training 6.0. La piattaforma Blackwell ha ottenuto i tempi di addestramento più rapidi in ogni categoria.

Il sistema GB300 NVL72 mostra progressi significativi. Offre un addestramento 1,6 volte più veloce rispetto al GB200 NVL72.

Dati chiave sulle prestazioni:

• Il GB300 NVL72 ha ottenuto un incremento di velocità di 1,6x rispetto al GB200 NVL72. • NVIDIA ha utilizzato la precisione NVFP4 per aumentare la densità di calcolo. • Il modello DeepSeek-V3 671B è stato addestrato su 8.192 GPU tramite NVLink. • I nuovi carichi di lavoro Mixture-of-Experts includono DeepSeek-V3 671B e GPT-OSS-20B.

L'addestramento su larga scala richiede una comunicazione massiccia tra le GPU. NVIDIA utilizza gli switch NVLink di quinta generazione per connettere 72 GPU in un unico rack. Questa configurazione consente loro di operare come un'unica grande GPU.

L'azienda fornisce due opzioni di rete per questi cluster:

NVIDIA rimane l'unico vendor a sottoporre i risultati per tutti e sette i benchmark. Queste prestazioni le aiutano a mantenere il primato rispetto ai concorrenti come Google e AMD.

Il rapido miglioramento dal GB200 al GB300 dimostra un ciclo di ingegneria veloce. Questa rapidità pone l'asticella molto in alto per l'industria dell'addestramento dell'IA.

Fonte: blogs.nvidia.com

Community di apprendimento opzionale: https://t.me/GyaanSetuAi