Tagihan tahunan untuk token AI mulai menyaingi biaya gaji insinyur di beberapa perusahaan, dan jajaran pimpinan tidak tahu apakah harus merayakannya atau panik. Perusahaan-perusahaan telah menghabiskan beberapa tahun terakhir dengan mengucurkan modal besar-besaran ke dalam model bahasa besar, dengan harapan bahwa biaya inferensi yang lebih murah akan secara otomatis menghasilkan pengurangan jumlah karyawan dan siklus rilis yang lebih cepat. Sebaliknya, banyak organisasi teknik mendapati diri mereka membayar dua kali: sekali untuk talenta yang mereka harap dapat ditingkatkan kemampuannya, dan sekali lagi untuk komputasi yang seharusnya menggantikan mereka. Pertanyaannya bukan lagi apakah AI dapat menulis kode. Pertanyaannya adalah apakah kode yang dihasilkannya sebanding dengan kekayaan besar yang dihabiskan untuk memproduksinya.
Tolok Ukur Setengah Gaji
Jensen Huang memaparkan perhitungannya secara blak-blakan pada penutupan GTC 2026, saat berbicara di All-In Podcast. CEO Nvidia tersebut mengusulkan untuk mengukur efisiensi seorang insinyur dengan membandingkan gaji mereka secara langsung dengan konsumsi token AI mereka. Ambang batasnya sangat mencolok. Ambil contoh seorang insinyur perangkat lunak yang berpenghasilan $500.000 setahun. Jika insinyur tersebut menggunakan token senilai kurang dari $250.000 per tahun, atau sekitar setengah dari gajinya, Huang menganggapnya sebagai tanda peringatan. Jajaran pimpinan harus "sangat waspada," dalam kata-katanya, bukan karena perusahaan terlalu banyak mengeluarkan uang untuk orang, tetapi karena kemungkinan besar mereka tidak memanfaatkannya secara maksimal.
Logika ini membalikkan pola pikir pengendalian biaya tradisional. Selama bertahun-tahun, tim keuangan memperlakukan komputasi sebagai biaya variabel yang harus diminimalkan. Huang berpendapat sebaliknya. Seorang insinyur mahal yang jarang menyentuh model adalah insinyur mahal yang bekerja tanpa pengganda kekuatan (force multiplier). Ekspektasinya adalah talenta berbiaya tinggi harus bertindak sebagai corong, mendorong volume pekerjaan yang sangat besar melalui sistem AI, meninjau hasilnya, dan mengorkestrasi hasil tersebut. Pengeluaran token yang rendah bukan menandakan penghematan. Itu menandakan bahwa manusia tersebut masih melakukan pekerjaan mekanis yang seharusnya bisa ditangani oleh model.
Seperti Apa Pengeluaran Tersebut dalam Praktiknya
Untuk memahami mengapa tolok ukur ini penting, pertimbangkan apa sebenarnya representasi dari token senilai $250.000 tersebut. Pada tarif model frontier saat ini, itu bukan sekadar beberapa saran pelengkapan otomatis (autocomplete). Itu adalah jutaan token yang diproses setiap hari kerja untuk berbagai macam tugas. Hal ini menunjukkan seorang insinyur yang tidak sekadar menerima penyelesaian editor, tetapi sedang menjalankan penalaran arsitektural yang luas, refactoring massal melalui agen cerdas, alur pengujian otomatis, pembuatan data sintetis, dan eksplorasi desain iteratif.
Seorang insinyur senior yang bekerja dengan cara ini mungkin merangkai beberapa panggilan model untuk satu fitur: menghasilkan scaffolding, menganalisis dependensi untuk breaking changes, mensimulasikan perilaku edge-case, dan memproduksi dokumentasi secara paralel. Throughput-nya sangat besar karena manusia tidak lagi mengetik setiap baris. Mereka sedang mengemudikan (steering). Bagi Huang, gaji tersebut baru sebanding dengan dirinya sendiri ketika manusia beroperasi pada skala tersebut, melipatgandakan hasil kerja mereka melalui interaksi model yang tanpa henti.
Ke Mana Hilangnya Imbal Hasilnya
Terlepas dari visi ini, industri sedang menatap kesenjangan yang semakin lebar antara pengeluaran infrastruktur dan hasil yang diberikan. Perusahaan-perusahaan telah terburu-buru ke dalam strategi yang padat token, menyediakan kontrak perusahaan dengan vendor AI dan merombak alur pengembangan mereka di sekitar alat generatif. Pengeluaran modalnya sangat mengejutkan. Namun, imbal hasil produktivitasnya, bagi banyak pihak, sangat mengecewakan.
Pengembang memang lebih cepat dalam mengerjakan hal-hal yang membosankan. Kode boilerplate, kerangka unit test, dan operasi CRUD yang berulang-ulang dapat diselesaikan dengan cepat saat model menghasilkan draf pertama. Namun, rekayasa perangkat lunak sebenarnya tidak pernah benar-benar tentang kecepatan mengetik. Pekerjaan yang sulit dan mahal terletak pada pemeliharaan sistem yang luas, melakukan penalaran melalui mode kegagalan terdistribusi, memastikan keamanan di seluruh dependensi berlapis, dan mengelola utang teknis (technical debt) yang timbul dari setiap jalan pintas.