Daripada Tokenmaxxing kepada ROI: Tiffany Luck dari NEA Mengenai Realiti Sebenar AI

Era "tokenmaxxing"—di mana CEO Silicon Valley menggalakkan penggunaan AI tanpa had tanpa menghiraukan kos—sedang beralih dengan pantas kepada tempoh penelitian kewangan yang sengit. Apabila perusahaan melepasi fasa keterujaan awal, fokus telah beralih daripada penggunaan semata-mata kepada Pulangan Pelaburan (ROI) yang boleh dibuktikan.

Berakhirnya Era Tokenmaxxing

Awal tahun ini, trend utama dalam teknologi ialah "tokenmaxxing," iaitu usaha untuk menyepadukan AI ke dalam setiap aliran kerja yang mungkin bagi memaksimumkan utiliti. Walau bagaimanapun, kos penggunaan model bahasa besar (LLM) yang sangat tinggi telah membawa kepada realiti yang mengejutkan. Laporan berprofil tinggi menunjukkan bahawa syarikat seperti Uber dilaporkan telah menghabiskan keseluruhan bajet tahunan AI mereka dalam masa beberapa bulan sahaja.

Tekanan fiskal ini telah memaksa organisasi untuk melaksanakan kawalan ketat, dengan beberapa syarikat malah mengurangkan lesen Claude untuk jabatan tertentu atau menamatkan papan pendahulu AI dalaman, seperti Meta. Bagi pelabur modal teroka seperti rakan kongsi NEA, Tiffany Luck, peralihan ini menandakan transisi daripada perbelanjaan eksperimental kepada "penilaian ROI" yang berdisiplin.

Kebangkitan Agnostisisme Model dan Strategi Pelaksanaan

Memandangkan syarikat sedang bergelut dengan kos ini, corak baharu dalam penggunaan perusahaan mula muncul. Daripada hanya bergantung kepada satu pembekal, perusahaan kini semakin banyak "mencampur dan memadankan" model yang berbeza untuk mengoptimumkan prestasi dan harga. Pendekatan pelbagai model ini membolehkan syarikat menggunakan model penaakulan tinggi yang mahal untuk tugas kompleks, sambil menggunakan model yang lebih kecil dan murah untuk automasi rutin.

Bagi memudahkan integrasi ini, satu kelas bakat baharu menjadi sangat penting: jurutera yang ditempatkan di barisan hadapan (forward-deployed engineer). Luck mencadangkan bahawa jurutera ini bertindak sebagai "kuda Trojan" bagi penggunaan AI dalam organisasi besar. Dengan bekerja secara langsung di barisan hadapan pelaksanaan, mereka membantu merapatkan jurang antara keupayaan model mentah dengan kes penggunaan perniagaan yang khusus dan dipacu nilai, bagi memastikan alat AI benar-benar menyelesaikan masalah perusahaan dan bukannya sekadar menambah kerumitan.

Mencari Nilai Merentasi Keseluruhan Stak AI

Satu salah faham biasa dalam pasaran semasa ialah nilai hanya tertumpu pada lapisan model sahaja. Walaupun persaingan untuk mendapatkan LLM yang paling berkuasa berterusan, Tiffany Luck berhujah bahawa penciptaan nilai yang signifikan sedang berlaku pada setiap lapisan stak AI.

From startups building specialized infrastructure to help enterprises track AI spend, to developers creating "personal agents" that deliver "magic moments" in consumer experiences, the opportunities are diversifying. As the industry matures, the winners will likely not be those who simply provide the most tokens, but those who provide the most efficient, integrated, and measurable intelligence.

Key Takeaways