Mengapa Perusahaan Kesulitan Menghitung Return on Investment (ROI) AI

Gelombang awal "tokenmaxxing"—di mana para CEO mendorong penggunaan AI yang agresif dan tanpa kendali—kini menghadapi realitas yang keras seiring dengan pengawasan ketat terhadap anggaran perusahaan. Saat perusahaan melewati fase eksperimen, tantangan utamanya telah bergeser dari sekadar adopsi menjadi pembuktian Return on Investment (ROI) yang nyata.

Dari Tokenmaxxing ke Akuntabilitas Anggaran

Awal tahun ini, Silicon Valley digemparkan oleh "tokenmaxxing," sebuah tren di mana organisasi mendorong penggunaan AI hingga batas maksimal untuk memaksimalkan kapabilitasnya. Namun, implikasi finansial dari antusiasme yang tidak terkendali ini kini mulai terungkap. Laporan menunjukkan bahwa pemain besar seperti Uber kabarnya telah menghabiskan anggaran tahunan AI mereka hanya dalam beberapa bulan.

Lonjakan konsumsi ini telah menyebabkan fase koreksi dalam lanskap perusahaan. Kita melihat organisasi melakukan pengurangan skala, seperti perusahaan yang memangkas lisensi Claude untuk departemen tertentu, dan bahkan Meta kabarnya menghentikan papan peringkat AI internalnya. Langkah-langkah ini menandakan pergeseran dari pola pikir "pertumbuhan dengan segala cara" menuju disiplin fiskal dan manajemen sumber daya yang ketat.

Pencarian "Magic Moments" dan Agen Personal

Meskipun terjadi pengetatan anggaran, mitra NEA Tiffany Luck tetap optimis terhadap potensi transformatif AI, terutama di sektor konsumen. Luck menekankan pentingnya mengidentifikasi "magic moments"—momen spesifik di mana AI memberikan kegunaan bernilai tinggi yang tak terbantahkan kepada pengguna akhir.

Industri ini sedang bergerak melampaui chatbot sederhana menuju pengembangan agen personal yang canggih. Agen-agen ini mewakili garis depan AI berikutnya, bertransisi dari alat reaktif menjadi asisten proaktif yang mampu menangani tugas-tugas kompleks. Bagi para pemodal ventura dan pendiri startup, tujuannya adalah melampaui implementasi LLM generik dan membangun agen khusus yang menyelesaikan masalah dengan friksi tinggi dengan cara yang dapat membenarkan biaya operasional mereka yang signifikan.

Kebangkitan Manajemen Pengeluaran AI

Seiring menyempitnya celah antara hype AI dan produktivitas aktual, sebuah sub-sektor startup baru muncul untuk menjembatani kesenjangan tersebut. Perusahaan saat ini sedang berjuang untuk melacak biaya granular dari panggilan API model, komputasi, dan lisensi seat terhadap nilai aktual yang dihasilkan.

Hal ini telah menciptakan peluang besar bagi startup yang berfokus pada observabilitas AI dan manajemen pengeluaran. Perusahaan mencari alat yang memberikan transparansi terhadap stack AI mereka, memungkinkan mereka untuk melihat dengan tepat di mana token dikonsumsi dan apakah token tersebut menghasilkan pendapatan atau sekadar menambah biaya operasional. Kemampuan untuk memetakan pengeluaran AI ke hasil bisnis tertentu akan menjadi faktor penentu bagi perusahaan yang berhasil mengintegrasikan AI ke dalam alur kerja inti mereka.

Poin-Poin Penting