NVIDIA'nın Blackwell GPU ailesi 208 milyar transistör barındırıyor ve 72 GPU'luk bir alanda 130 TB/s'ye kadar bant genişliği sağlayabiliyor. Bu hamle, üretken yapay zeka yarışına damga vuran trilyon parametreli dil modellerini hedefliyor ve veri merkezi operatörlerini, hız kazanımlarından yararlanmadan önce güç, soğutma ve şasi seçimlerini yeniden düşünmeye zorluyor.

Donanım sıçraması

Blackwell, daha iyi enerji verimliliği için ham saat hızından feragat eden özel bir TSMC 4NP süreci kullanıyor. Her GPU, bir çiftin tek bir mantıksal işlemci gibi hareket etmesini sağlayan 10 TB/s'lik dahili bir bağlantı ile birbirine bağlanmış iki çipten (die) oluşuyor. Mimari; ikinci nesil bir Transformer Engine, beşinci nesil bir NVLink ve NVLink Switch'in yanı sıra confidential computing (gizli hesaplama) adı verilen güvenlik odaklı bloklar, bir Decompression Engine ve RAS (Güvenilirlik, Kullanılabilirlik, Servis Edilebilirlik) ekliyor.

En görünür değişiklik hassasiyet yönetimidir. Hopper'ın H100'ü, karma hassasiyetli (mixed-precision) yapay zeka çalışmaları için FP8'e dayanıyordu; Blackwell ise FP4 mikro-tensor ölçeklendirmesine düşüyor. Yeni NVLink sürümü ayrıca GPU'dan GPU'ya iletişim için tavanı yükselterek tek bir yapıda (fabric) 576 GPU'ya kadar destek sağlıyor ve NVIDIA tarafından belirtilen 130 TB/s değerini sunuyor.

Pratikte Hopper ve Blackwell karşılaştırması

Özellik Hopper (H100) Blackwell (B200)
Temel odak Karma AI ve HPC iş yükleri Büyük dil modelleri
Hassasiyet FP8 FP4 mikro-tensor
Bağlantı (Interconnect) 4. nesil NVLink 5. nesil NVLink (576 GPU'ya kadar)
Alan bant genişliği – 130 TB/s (72-GPU)
Güvenlik Standart GPU I/O TEE-I/O (güvenilir yürütme ortamı) içeren ilk GPU

Tablo, Blackwell'in büyük dil modellerine odaklandığını göstermektedir.

Altyapı sorunları

Tek bir Blackwell GPU, yük altında 1 kW kadar güç çekebilir ve bu da tipik veri merkezi güç dağıtımının sınırlarını zorlar. Çoğu sunucu sınıfı silikon için işe yarayan hava soğutma, bu ısıyı yeterince hızlı dağıtamıyor; sıvı soğutma döngüleri bir ön koşul haline geliyor. Form faktörü de eski şasilere uymuyor. NVIDIA'nın kendi HGX ve DGX platformları, bu çipleri barındırabilen sistemlere örnektir.

Kimler yararlanıyor?

  • LLM geliştiricileri daha hızlı eğitim ve ince ayar (fine-tuning) imkanına kavuşuyor.
  • Sohbet tipi uygulamalara hizmet veren çıkarım (inference) kümeleri, FP4 ölçeklendirmesi ve devasa GPU'lar arası bant genişliği sayesinde daha düşük gecikme süresi ve daha yüksek veri yolu (throughput) elde ediyor.
  • Transformer tabanlı veri artırma veya özetlemeye dayanan büyük veri analitiği boru hatları (pipelines), daha fazla işi paralel olarak çalıştırabiliyor.
  • Robotik ekipleri, ölçekli bir şekilde görme modelleri (vision models) eğitirken daha hızlı yineleme döngülerinden yararlanıyor; bu, gerçek dünya test pencerelerinin dar olduğu durumlarda büyük bir avantajdır.

Madalyonun öteki yüzü

Blackwell'i cazip kılan temel güçlü yönler, aynı zamanda onun doğrudan pazarını da kısıtlıyor.

Takip edilmesi gerekenler

  • Benimsenme eğrileri
  • Yazılım yığını (software stack) hazır bulunuşluğu
  • Güç şebekesi yükseltmeleri

Özet

Blackwell, yapay zeka donanımını ham performansın yeni bir seviyesine taşıyor ancak aynı zamanda çevresindeki ekosistemin de paralel bir yükseltme yapmasını zorunlu kılıyor.