𝗣𝗲𝗿𝗮𝗻𝗴 𝗕𝗲𝗻𝗰𝗵𝗺𝗮𝗿𝗸 𝗖𝗵𝗶𝗽 𝗔𝗜 𝗧𝗲𝗹𝗮𝗵 𝗞𝗲𝗺𝗯𝗮𝗹𝗶

Nvidia telah mendominasi pasar chip AI selama bertahun-tahun. Keunggulan mereka begitu besar sehingga para pesaing berhenti mencoba bersaing dalam hal performa. Benchmarking terasa sia-sia karena semua orang menganggap Nvidia sudah menang.

Hal itu telah berubah.

Pasar sedang menyaksikan Efek Kebangkitan Benchmark (Benchmark Resurrection Effect). Ketika pembeli besar seperti Meta mempertimbangkan alternatif, seluruh industri terbangun. Sekarang, persaingan antara Nvidia, AMD, Google, dan Intel menjadi nyata kembali.

Berikut adalah gambaran lanskap untuk tahun 2026:

  • AMD MI300X: Unggul dalam memori. Dengan 192GB HBM3, chip ini mengalahkan Nvidia H100 (80GB) untuk inferensi model besar. Anda dapat memuat lebih banyak data pada lebih sedikit chip.
  • Google TPU v5p: Unggul dalam price-performance di dalam ekosistem Google. Sangat bagus untuk pengguna JAX, tetapi memerlukan biaya migrasi bagi tim PyTorch.
  • Intel Gaudi 3: Unggul dalam harga label. Biayanya jauh lebih murah daripada perangkat keras Nvidia, menjadikannya pilihan kuat untuk produksi yang sensitif terhadap biaya.
  • Custom Silicon: Hyperscaler seperti Amazon dan Microsoft sedang membangun chip mereka sendiri untuk mengurangi ketergantungan pada Nvidia.

Mengapa hal ini penting bagi anggaran Anda:

Kesalahan termahal adalah berasumsi bahwa Anda hanya memiliki satu vendor. Kompetisi mendorong harga turun. Kita sudah melihat harga sewa H100 menurun seiring masuknya pasokan alternatif ke pasar.

Cara memilih perangkat keras Anda:

  • Jangan percaya slide pemasaran. Jalankan beban kerja (workload) spesifik Anda pada perangkat keras tersebut sebelum menandatangani kontrak.
  • Perhatikan Total Cost of Ownership (TCO). Pertimbangkan faktor daya, pendinginan, dan waktu yang dihabiskan tim Anda untuk berpindah ekosistem perangkat lunak.
  • Sesuaikan chip dengan tugasnya. Gunakan Nvidia untuk pelatihan model mutakhir (frontier training) dan kematangan CUDA. Gunakan AMD atau Intel untuk inferensi bervolume tinggi yang sensitif terhadap biaya.

Nvidia masih memiliki keunggulan perangkat lunak (software moat) dengan jutaan pengembang CUDA. Namun, persaingan perangkat keras bukan lagi persaingan satu pihak saja.

Sumber: https://dev.to/aarhamforensics_eb3c024eb/chipmakers-renew-nerdy-performance-tussle-that-nvidias-dominance-had-quashed-the-2026-ai-chip-3ff2

Komunitas belajar opsional: https://t.me/GyaanSetuAi