Keluarga GPU Blackwell NVIDIA mengemas 208 miliar transistor dan dapat memberikan bandwidth hingga 130 TB/s dalam domain 72-GPU. Langkah ini menargetkan model bahasa berparameter triliunan yang mendominasi persaingan AI generatif dan memaksa operator pusat data untuk memikirkan kembali pilihan daya, pendinginan, dan sasis sebelum mereka dapat memetik keuntungan kecepatan tersebut.
Lompatan perangkat keras
Blackwell menggunakan proses TSMC 4NP khusus yang mengorbankan kecepatan clock mentah demi efisiensi energi yang lebih baik. Setiap GPU terdiri dari dua die yang disatukan dengan tautan internal 10 TB/s, memungkinkan pasangan tersebut bertindak sebagai satu prosesor logis tunggal. Arsitekturnya menambahkan Transformer Engine generasi kedua, NVLink dan NVLink Switch generasi kelima, ditambah blok berfokus keamanan yang disebut confidential computing, Decompression Engine, dan RAS (Reliability, Availability, Serviceability).
Perubahan yang paling terlihat adalah penanganan presisi. H100 milik Hopper mengandalkan FP8 untuk pekerjaan AI presisi campuran; Blackwell turun ke penskalaan micro-tensor FP4. Versi NVLink baru juga meningkatkan batas komunikasi GPU-ke-GPU, mendukung hingga 576 GPU dalam satu fabric dan memberikan angka 130 TB/s yang dikutip oleh NVIDIA.
Hopper vs. Blackwell dalam praktiknya
| Fitur | Hopper (H100) | Blackwell (B200) |
|---|---|---|
| Fokus utama | Beban kerja AI dan HPC campuran | Model bahasa besar |
| Presisi | FP8 | FP4 micro-tensor |
| Interkoneksi | NVLink gen-4 | NVLink gen-5 (hingga 576 GPU) |
| Bandwidth domain | – | 130 TB/s (72-GPU) |
| Keamanan | I/O GPU standar | GPU pertama dengan TEE-I/O (trusted execution environment) |
Tabel tersebut menunjukkan bahwa Blackwell berfokus pada model bahasa besar.
Masalah infrastruktur
Satu GPU Blackwell dapat menarik daya hingga 1 kW saat beban kerja penuh, menekan batas distribusi daya pusat data pada umumnya. Pendinginan udara, yang berfungsi untuk sebagian besar silikon kelas server, tidak dapat membuang panas tersebut dengan cukup cepat; loop pendingin cair menjadi sebuah prasyarat. Faktor bentuknya juga tidak dapat masuk ke dalam sasis lama. Platform HGX dan DGX milik NVIDIA sendiri adalah contoh sistem yang dapat mengakomodasi chip tersebut.
Siapa yang diuntungkan
- Pengembang LLM mendapatkan pelatihan dan fine-tuning yang lebih cepat.
- Klaster inferensi yang melayani aplikasi tipe chat melihat latensi yang lebih rendah dan throughput yang lebih tinggi berkat penskalaan FP4 dan bandwidth antar-GPU yang masif.
- Pipeline analitik big-data yang mengandalkan augmentasi atau peringkasan berbasis transformer dapat menjalankan lebih banyak pekerjaan secara paralel.
- Tim robotika yang melatih model visi dalam skala besar menikmati siklus iterasi yang lebih cepat, sebuah keuntungan ketika jendela pengujian dunia nyata sangat sempit.
Sisi lainnya
Kekuatan yang membuat Blackwell menarik juga membatasi pasar langsungnya.
Yang perlu diperhatikan
- Kurva adopsi
- Kesiapan software stack
- Peningkatan jaringan listrik
Kesimpulan
Blackwell mendorong perangkat keras AI ke tingkat performa mentah yang baru, tetapi hal ini juga memaksa peningkatan paralel pada ekosistem di sekitarnya.