OpenAI mendedahkan cip inferensnya sendiri, Jalapeño, dan menyatakan bahawa ia memberikan sehingga 1.9 × daya pemprosesan bagi setiap kilowatt berbanding pemecut Nvidia GB200 dan GB300. Pasukan tersebut telah menukarkan satu konsep kepada die silikon yang berfungsi dalam masa sembilan bulan—jauh lebih pantas daripada kitaran biasa dua hingga tiga tahun untuk pemproses AI tersuai.

Mengapa pecutan ini penting

OpenAI kini menjalankan model pada perkakasan daripada Cerebras, AWS Trainium, AMD, dan lain-lain berbanding hanya bergantung kepada GPU Nvidia. Memandangkan AI beralih daripada beban kerja yang berat pada latihan kepada beban kerja yang berat pada inferens, penggunaan kuasa dan kos bagi setiap pertanyaan menjadi faktor penentu. Cip yang mampu mengurangkan separuh tenaga yang diperlukan untuk model berbilion parameter boleh memotong perbelanjaan operasi bagi perkhidmatan yang mengendalikan berbilion permintaan setiap hari.

Bagaimana AI menulis reka bentuk cip tersebut

Jalapeño ialah sebuah ASIC—cip yang dibina untuk satu tujuan: menjalankan model bahasa besar (LLM). Tidak seperti GPU tujuan umum, ASIC membuang logik yang tidak diperlukan dan menyesuaikan laluan data mengikut corak inferens LLM. Jurutera OpenAI menulis reka bentuk tersebut dalam XLS, sebuah bahasa huraian perkakasan yang membolehkan model pembelajaran mesin menjana kod. Syarikat itu menyatakan bahawa logik yang dijana oleh AI membentuk lebih daripada separuh daripada teras cip tersebut, sekali gus memendekkan saluran reka bentuk daripada bertahun-tahun kepada beberapa bulan sahaja.

Dakwaan prestasi berbanding realiti

OpenAI menyenaraikan tiga angka utama untuk Jalapeño:

  • Daya pemprosesan bagi setiap kilowatt: 1.5 – 1.9 × lebih tinggi daripada GB200/GB300 Nvidia.
  • Kependaman (Latency): 1.7 – 3.6 × lebih rendah daripada model Nvidia yang sama.
  • Penggunaan kuasa pada model berbilion parameter: 700 W berbanding 1,400 W pada GB300.

Jika angka-angka tersebut terbukti benar, sebuah pusat data boleh menjalankan model yang sama dengan kos elektrik separuh lebih rendah sambil memberikan respons yang lebih pantas. Dakwaan tersebut tertumpu pada inferens; OpenAI tidak menyentuh prestasi latihan, selaras dengan penekanan semasa syarikat itu terhadap penyediaan aplikasi jenis sembang.

Apa maknanya bagi Nvidia

Cip Blackwell dan Vera Rubin Nvidia yang akan datang menyasarkan pasaran pemecut kelas atasan. Kelebihan Nvidia terletak pada timbunan perisian (software stack) yang matang, penggunaan meluas oleh pembangun, dan fleksibiliti merentasi pelbagai tugas AI. Sebaliknya, Jalapeño ialah peranti tujuan khusus yang hanya menang apabila beban kerja sepadan dengan pengkhususannya.

Tekanan terhadap Nvidia mempunyai dua sudut. Pertama, pelanggan yang mampu memiliki ASIC tersuai mungkin beralih demi penjimatan yang dijanjikan, sekali gus mengurangkan bahagian pasaran inferens Nvidia. Kedua, pembuktian bahawa AI boleh membantu mereka bentuk perkakasan boleh memendekkan kitaran pembangunan pesaing, memaksa Nvidia untuk mempercepatkan pelan hala tujunya.

Hujah balas dan persoalan terbuka

  • Ekosistem perisian: Perpustakaan CUDA Nvidia, alatan pemprofilan, dan sokongan komuniti masih memberikan kelebihan yang nyata bagi kebanyakan pembangun. Mengintegrasikan Jalapeño akan memerlukan rantaian alatan (toolchains) baharu dan kemungkinan penulisan semula kod.
  • Pengesahan dunia nyata: Angka-angka tersebut datang daripada ujian dalaman OpenAI. Penanda aras bebas, data kebolehpercayaan jangka panjang, dan tingkah laku penskalaan di bawah beban kerja penyewa bercampur (mixed-tenant loads) masih belum disahkan.
  • Ekonomi skala: Kelebihan kos ASIC meningkat mengikut volum. Penggunaan dalaman OpenAI mungkin mewajarkan pelaburan tersebut, tetapi pelanggan luaran mungkin menghadapi harga per-cip yang lebih tinggi melainkan pengeluaran diskalakan.

Pandangan masa hadapan

Buat masa ini, Jalapeño membuktikan bahawa pecutan sembilan bulan boleh menghasilkan cip yang, di atas kertas, mengatasi GPU sedia ada dalam bahagian timbunan AI yang paling sensitif terhadap kos. Ujian sebenar adalah sama ada kelebihan itu dapat bertahan dalam beban kerja dunia nyata yang mencabar.