Perusahaan sedang meningkatkan infrastruktur AI secara agresif, namun "jurang pengkomputeran" yang semakin melebar mula muncul antara perbelanjaan modal dan pengawasan operasi. Semasa organisasi bergegas untuk mendapatkan perkakasan, mereka mendapati keupayaan mereka untuk mengukur ekonomi unit dan penggunaan GPU tidak dapat menandingi kepantasan pelaburan.

Jurang Pengkomputeran: Pelaburan Pantas vs. Kebolehlihatan Rendah

Satu kajian VentureBeat Pulse Research terhadap 107 perusahaan menunjukkan percanggahan ketara dalam kitaran hayat AI. Syarikat menyuntik modal ke dalam infrastruktur tetapi kekurangan telemetri untuk mengurusnya. Niat perbelanjaan melonjak tinggi, namun kematangan pengeluaran kekal rendah; hanya 21% daripada firma yang disurvei menjalankan AI dalam pengeluaran pada skala besar.

Simptom yang paling kritikal adalah ketidakcekapan. Lapan puluh tiga peratus perusahaan melaporkan penggunaan GPU pada tahap 50% atau kurang. Lebih buruk lagi, kurang daripada separuh (44%) dapat menjejaki kos sebenar pengkomputeran AI mereka secara rapi. Oleh itu, pelaburan yang besar dan bergerak pantas berlaku tanpa kebolehlihatan yang diperlukan untuk mengemudi ekonomi jangka panjang.

Dinamik Vendor yang Berubah dan Kadar Pertukaran yang Tinggi

Hyperscaler tradisional dan API model mendominasi stack. Google Cloud menerajui dengan penggunaan 48%, diikuti oleh Microsoft Azure (29%), AWS (22%) dan Oracle Cloud (22%). Penggunaan model tertumpu pada Gemini (41%) dan OpenAI (40%). Awan AI khusus seperti CoreWeave, Lambda dan Together memegang kurang daripada 2% pasaran.

Ketidaktentuan adalah tinggi. Enam puluh empat peratus perusahaan merancang untuk menukar atau menambah penyedia infrastruktur dalam tempoh dua belas bulan, dan 38% berhasrat untuk berbuat demikian dalam suku tahun akan datang. Integrasi dengan stack sedia ada memacu 41% daripada keputusan tersebut, manakala jumlah kos pemilikan (TCO) menyumbang sebanyak 35%. Hanya 8% memetik harga token utama.

Sempadan Seterusnya: Awan Khusus dan Jalur Lebar Memori

Perusahaan yang bergerak melampaui fasa eksperimen sedang memerhatikan awan khusus AI. Empat puluh lima peratus merancang untuk menilai penyedia sedemikian pada tahun akan datang—bidang penilaian tunggal terbesar yang dirancang.

Satu kekangan teknikal baharu sedang muncul: jalur lebar memori, bukannya pengkomputeran GPU mentah, yang akan mengehadkan inferens pada skala besar. Hanya sekitar 20% firma menyedari kekangan ini atau mengambil langkah untuk menanganinya. Bagi pembangun dan CTO, menguasai jalur lebar akan membezakan inferens yang boleh diskalakan daripada kos yang tidak terkawal.

Isi Penting

  • Ketidakcekapan adalah norma: 83% perusahaan menjalankan GPU pada penggunaan ≤ 50%; kurang daripada separuh dapat menjejaki perbelanjaan pengkomputeran dengan tepat.
  • Kadar pertukaran vendor adalah tinggi: 64% merancang untuk menukar atau menambah penyedia dalam tempoh setahun, dengan mengutamakan integrasi (41%) dan TCO (35%).
  • Peralihan kepada pengkhususan: 45% akan menilai awan AI khusus untuk merapatkan jurang pengkomputeran.
  • Jalur lebar memori semakin menghampiri: Kira-kira 20% firma menyedari atau menangani kekangan yang sedang muncul ini.

Artikel

Tinjauan VentureBeat Pulse Research terhadap 107 firma menunjukkan bahawa 83% menjalankan GPU pada separuh kapasiti atau lebih rendah, manakala hanya 44% dapat menentukan kos tepat bagi setiap jam pengkomputeran. Ketidakpadanan ini mendorong 64% responden untuk merancang pertukaran atau penambahan vendor infrastruktur dalam tempoh setahun akan datang.

Mengapa “jurang pengkomputeran” penting sekarang

Angka utama menggambarkan gambaran yang ketara: perbelanjaan AI meningkat, tetapi kematangan pengeluaran ketinggalan. Hanya 21% syarikat mengatakan mereka menjalankan AI pada skala besar dalam pengeluaran, bermakna kebanyakan pelaburan berada di makmal, bukti konsep (proof-of-concepts), atau perkakasan yang tidak digunakan. Penggunaan GPU yang rendah diterjemahkan secara langsung kepada modal yang membazir—pelayan yang hanya terisi separuh masih menggunakan kuasa, memerlukan penyejukan, dan memakan ruang rak. Apabila kurang daripada separuh organisasi dapat menjejaki kos setiap GPU, belanjawan menjadi sekadar tekaan, dan CFO berhadapan dengan "kotak hitam" yang boleh meletupkan bajet teknologi setahun.

Bagaimana kita sampai ke tahap ini

Kesibukan ini bermula apabila hyperscaler melancarkan instans khusus AI dan API model-sebagai-perkhidmatan (model-as-a-service). Google Cloud kini menghoskan 48% daripada beban kerja yang disurvei, diikuti oleh Microsoft Azure (29%), AWS (22%) dan Oracle Cloud (22%). Penggunaan model mencerminkan pecahan tersebut, dengan Gemini dan OpenAI masing-masing merangkumi kira-kira 40% penggunaan. Daya tarikannya jelas: awan yang dipercayai, GPU yang sedia untuk dijalankan, dan model bayar-mengikut-penggunaan yang menjanjikan kos telus.

Kajian ini mendedahkan kos tersembunyi. Masalah integrasi mendominasi keputusan untuk berpindah: 41% memetik kesukaran untuk menyatukan stack penyedia ke dalam saluran (pipeline) sedia ada, manakala 35% merujuk kepada jumlah kos pemilikan. Hanya 8% mengatakan harga token utama menjauhkan mereka, menunjukkan bahawa tanda harga mentah kurang penting berbanding kesesuaian ekosistem.

Pertaruhan bagi vendor dan pembeli

Bagi tiga awan besar, pegangan pasaran yang dominan memberikan pengaruh, namun niat untuk bertukar menandakan hakisan terhadap penguasaan tersebut.

Pembeli menghadapi dua risiko. Pertama, penggunaan rendah yang berterusan meningkatkan kos bagi setiap inferens atau tugasan latihan, sekali gus menghakis kes perniagaan untuk AI. Kedua, kurangnya keterlihatan kos menghalang perancangan strategik; tanpa ekonomi unit yang jelas, sukar untuk mewajarkan pelaburan lanjut atau menetapkan harga bagi produk yang dipertingkatkan dengan AI.

Kebangkitan awan AI khusus

Awan AI khusus—CoreWeave, Lambda dan Together—pada masa ini memegang kurang daripada 2% pasaran. Empat puluh lima peratus perusahaan menyatakan bahawa mereka akan menilai penyedia khusus ini pada tahun akan datang, menjadikannya satu-satunya bidang penilaian vendor terbesar yang dirancang. Tawaran nilai mereka bersandarkan kepada integrasi yang lebih erat dengan rantaian alatan AI, pengebilan yang lebih terperinci, dan perkakasan yang dilaraskan untuk beban kerja AI, yang boleh meningkatkan penggunaan GPU jauh melebihi siling 50% yang menghantui kebanyakan perusahaan hari ini.

Titik buta teknikal: lebar jalur memori

Perbincangan mengenai perkakasan sedang beralih. Apabila beban kerja inferens berkembang, lebar jalur memori—sejauh mana cepat data bergerak masuk dan keluar daripada GPU—menjadi kesesakan, mengatasi kuasa pengkomputeran mentah. Namun, hanya sekitar 20% firma yang disurvei sama ada menyedari kekangan ini atau sedang mengambil langkah untuk menanganinya. Mengabaikan lebar jalur boleh bermakna walaupun GPU digunakan sepenuhnya, ia tetap tidak dapat memberikan daya pemprosesan yang diperlukan, yang membawa kepada peningkatan jumlah instans dan kos yang lebih tinggi.

Hujah balas: hyperscaler masih mendominasi

Adalah pramatang untuk mengisytiharkan berakhirnya era hyperscaler. Skala, jejak global, dan kontrak perusahaan sedia ada masih menjadikan mereka pilihan utama bagi ramai pihak. Tinjauan menunjukkan majoriti beban kerja kekal pada platform ini, dan bagi organisasi dengan strategi multi-awan yang kukuh, inersia mungkin mengatasi daya tarikan penggunaan yang lebih tinggi. Selain itu, pegangan pasaran awan khusus yang terhad menunjukkan minat adalah tinggi tetapi migrasi akan berlaku secara beransur-ansur.

Apa yang perlu diperhatikan seterusnya

  • Kekangan lebar jalur memori: Apabila beban kerja inferens berkembang, lebar jalur mungkin menjadi kesesakan kritikal, yang mempengaruhi pemilihan perkakasan dan keputusan seni bina.

Rumusan

  • Ketidakcekapan adalah norma: 83% perusahaan menjalankan GPU pada penggunaan ≤ 50%; hanya 44% dapat menjejaki perbelanjaan pengkomputeran dengan tepat.
  • Pertukaran vendor adalah tinggi: 64% merancang untuk bertukar atau menambah penyedia infrastruktur dalam tempoh setahun, didorong oleh integrasi (41%) dan TCO (35%).
  • Awan khusus sedang meningkat naik: 45% akan menilai awan AI khusus dalam tempoh dua belas bulan akan datang, bertujuan untuk merapatkan jurang pengkomputeran.
  • Lebar jalur memori adalah kekangan yang bakal muncul: Kira-kira 20% firma menyedari atau sedang menangani kesesakan yang muncul ini.

Jurang antara perbelanjaan AI dan keterlihatan ekonomi bukan lagi sekadar nota kaki; ia membentuk semula strategi perolehan dan mendorong migrasi ke arah penyedia yang dapat membuktikan setiap dolar digunakan dengan lebih berkesan.