𝗡𝗩𝗜𝗗𝗜𝗔 𝗕𝗟𝗔𝗖𝗞𝗪𝗘𝗟𝗟 𝗠𝗘𝗡𝗗𝗢𝗠𝗜𝗡𝗔𝗦𝗜 𝗠𝗟𝗣𝗘𝗥𝗙 𝗧𝗥𝗔𝗜𝗡𝗜𝗡𝗚 𝟲.𝟬
NVIDIA memenangi kesemua tujuh penanda aras dalam suite MLPerf Training 6.0 yang terbaharu. Platform Blackwell mencapai masa latihan terpantas merentasi setiap kategori.
Sistem GB300 NVL72 menunjukkan kemajuan yang ketara. Ia memberikan latihan 1.6x lebih pantas berbanding GB200 NVL72.
Data prestasi utama:
• GB300 NVL72 mencapai peningkatan kelajuan 1.6x berbanding GB200 NVL72. • NVIDIA menggunakan ketepatan NVFP4 untuk meningkatkan kepadatan pengkomputeran. • Model DeepSeek-V3 671B dilatih pada 8,192 GPU melalui NVLink. • Beban kerja Mixture-of-Experts baharu termasuk DeepSeek-V3 671B dan GPT-OSS-20B.
Latihan berskala besar memerlukan komunikasi besar-besaran antara GPU. NVIDIA menggunakan suis NVLink generasi kelima untuk menyambungkan 72 GPU dalam satu rak. Tetapan ini membolehkan mereka berfungsi sebagai satu GPU besar yang tunggal.
Syarikat tersebut menyediakan dua pilihan rangkaian untuk kluster ini:
- NVIDIA Quantum InfiniBand
- NVIDIA Spectrum-X Ethernet
NVIDIA kekal sebagai satu-satunya vendor yang menghantar keputusan untuk kesemua tujuh penanda aras. Prestasi ini membantu mereka mengekalkan pendahuluan terhadap pesaing seperti Google dan AMD.
Penambahbaikan pantas daripada GB200 kepada GB300 menunjukkan kitaran kejuruteraan yang laju. Kepantasan ini menetapkan penanda aras yang tinggi bagi industri latihan AI.
Sumber: blogs.nvidia.com
Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi