Dari Tokenmaxxing ke ROI: Tiffany Luck dari NEA tentang Realitas AI

Era "tokenmaxxing"—di mana para CEO Silicon Valley mendorong penggunaan AI tanpa batas tanpa mempedulikan biaya—dengan cepat berganti menjadi periode pengawasan finansial yang ketat. Seiring perusahaan melewati euforia awal, fokus telah bergeser dari sekadar konsumsi menjadi Return on Investment (ROI) yang nyata.

Berakhirnya Era Tokenmaxxing

Awal tahun ini, tren yang dominan di dunia teknologi adalah "tokenmaxxing", sebuah dorongan untuk mengintegrasikan AI ke dalam setiap alur kerja yang memungkinkan guna memaksimalkan kegunaan. Namun, biaya astronomis dari konsumsi Large Language Model (LLM) telah memicu uji realitas yang signifikan. Laporan-laporan profil tinggi menunjukkan bahwa perusahaan seperti Uber dilaporkan telah menghabiskan seluruh anggaran AI tahunan mereka hanya dalam beberapa bulan.

Tekanan fiskal ini telah memaksa organisasi untuk menerapkan kontrol yang ketat, bahkan beberapa perusahaan memangkas lisensi Claude untuk departemen tertentu atau menghentikan papan peringkat AI internal, seperti yang dilakukan Meta. Bagi pemodal ventura seperti mitra NEA, Tiffany Luck, pergeseran ini menandakan transisi dari pengeluaran eksperimental menuju "perhitungan ROI" yang disiplin.

Kebangkitan Agnostisisme Model dan Strategi Deployment

Saat perusahaan bergulat dengan biaya-biaya ini, pola adopsi perusahaan yang baru mulai muncul. Alih-alih berkomitmen pada satu penyedia saja, perusahaan semakin banyak melakukan "mixing and matching" berbagai model untuk mengoptimalkan performa sekaligus harga. Pendekatan multi-model ini memungkinkan perusahaan untuk menggunakan model mahal dengan penalaran tinggi untuk tugas-tugas kompleks, sembari memanfaatkan model yang lebih kecil dan lebih murah untuk otomatisasi rutin.

Untuk memfasilitasi integrasi ini, kelas talenta baru menjadi sangat penting: forward-deployed engineer. Luck menyarankan bahwa para engineer ini bertindak sebagai "kuda Troya" bagi adopsi AI di dalam organisasi besar. Dengan bekerja langsung di garis depan implementasi, mereka membantu menjembatani kesenjangan antara kemampuan model mentah dengan kasus penggunaan bisnis spesifik yang berbasis nilai, memastikan bahwa alat AI benar-benar menyelesaikan masalah perusahaan dan bukannya sekadar menambah kompleksitas.

Menemukan Nilai di Seluruh AI Stack

Kesalahpahaman umum di pasar saat ini adalah bahwa nilai hanya terkonsentrasi pada lapisan model. Meskipun persaingan untuk LLM paling kuat terus berlanjut, Tiffany Luck berpendapat bahwa penciptaan nilai yang signifikan terjadi di setiap lapisan AI stack.

Dari startup yang membangun infrastruktur khusus untuk membantu perusahaan melacak pengeluaran AI, hingga pengembang yang menciptakan "agen pribadi" yang memberikan "momen ajaib" dalam pengalaman konsumen, peluang-peluang yang ada semakin beragam. Seiring dengan matangnya industri ini, pemenangnya kemungkinan besar bukanlah mereka yang sekadar menyediakan token terbanyak, melainkan mereka yang menyediakan kecerdasan yang paling efisien, terintegrasi, dan terukur.

Poin-Poin Penting