𝗡𝗩𝗜𝗗𝗜𝗔 𝗕𝗟𝗔𝗖𝗞𝗪𝗘𝗟𝗟 𝗗𝗢𝗠𝗜𝗡𝗔 𝗠𝗟𝗣𝗘𝗥𝗙 𝗧𝗥𝗔𝗜𝗡𝗜𝗡𝗚 𝟲.𝟬
NVIDIA ganó los siete benchmarks en la última suite MLPerf Training 6.0. La plataforma Blackwell logró los tiempos de entrenamiento más rápidos en todas las categorías.
El sistema GB300 NVL72 muestra un progreso significativo. Ofrece un entrenamiento 1,6 veces más rápido que el GB200 NVL72.
Datos clave de rendimiento:
• El GB300 NVL72 logró una aceleración de 1,6x respecto al GB200 NVL72. • NVIDIA utilizó la precisión NVFP4 para aumentar la densidad de cómputo. • El modelo DeepSeek-V3 671B se entrenó en 8.192 GPUs a través de NVLink. • Las nuevas cargas de trabajo de Mixture-of-Experts incluyen DeepSeek-V3 671B y GPT-OSS-20B.
El entrenamiento a gran escala requiere una comunicación masiva entre las GPUs. NVIDIA utiliza switches NVLink de quinta generación para conectar 72 GPUs en un solo rack. Esta configuración les permite funcionar como una única GPU de gran tamaño.
La empresa ofrece dos opciones de red para estos clusters:
- NVIDIA Quantum InfiniBand
- NVIDIA Spectrum-X Ethernet
NVIDIA sigue siendo el único proveedor que presenta resultados para los siete benchmarks. Este rendimiento les ayuda a mantener su liderazgo frente a competidores como Google y AMD.
La rápida mejora del GB200 al GB300 demuestra un ciclo de ingeniería acelerado. Esta velocidad establece un estándar muy alto para la industria del entrenamiento de IA.
Fuente: blogs.nvidia.com
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi