Uber Menghabiskan Seluruh Anggaran Coding AI-nya dalam 4 Bulan

Biaya coding AI meningkat pesat.

Uber menghabiskan seluruh anggaran Claude Code tahun 2026 mereka pada bulan April. Mereka harus membatasi pengeluaran karyawan sebesar $1.500 per bulan.

Data lain menunjukkan tren yang masif:

  • Gartner menyatakan bahwa 23% pemimpin teknologi menghabiskan $200 hingga $500 per pengembang setiap bulannya untuk token.
  • GitHub Copilot beralih ke penagihan berbasis penggunaan.
  • Perusahaan papan atas menghabiskan $7.500 per karyawan setiap bulannya untuk AI.

Masalahnya sederhana. Alur kerja agen (agentic workflows) menggunakan token terlalu cepat. Jika Anda menggunakan satu model mahal untuk setiap tugas, Anda membuang-buang uang.

Saya melihat hal ini terjadi pada pengeluaran saya sendiri. Tagihan coding AI saya mencapai $10.000 per bulan.

Saya menggunakan Claude Opus untuk segalanya. Saya menggunakannya untuk perencanaan kode, menulis pengujian, memformat file, dan mengubah nama variabel.

Ini seperti menyewa arsitek senior untuk memindahkan furnitur. Pekerjaan selesai, tetapi Anda membayar terlalu mahal.

Saya menganalisis penggunaan saya dan menemukan sebuah pola:

  • 15% tugas membutuhkan penalaran tingkat tinggi.
  • 25% tugas membutuhkan kemampuan tingkat menengah.
  • 60% tugas bersifat mekanis.

60% pekerjaan tersebut tidak membutuhkan model frontier. Model kecil dapat melakukannya dengan biaya yang jauh lebih murah.

Tim yang cerdas mengarahkan tugas ke model yang tepat:

  • Tier 1 (Frontier Models): Gunakan ini untuk arsitektur, bug yang kompleks, dan keamanan.
  • Tier 2 (Mid-Tier Models): Gunakan ini untuk implementasi fitur dan peninjauan kode (code reviews).
  • Tier 3 (Fast/Cheap Models): Gunakan ini untuk pemformatan, dokumentasi, dan boilerplate.

Saya beralih ke metode ini. Pengeluaran bulanan saya turun dari $10.000 menjadi $3.000. Kualitas output saya tetap sama.

Cara memulainya:

  • Catat (log) prompt API Anda selama satu minggu.
  • Cari adanya pembengkakan konteks (context bloat) atau loop pemikiran yang tidak perlu.
  • Arahkan berdasarkan tugas, bukan berdasarkan sesi. Satu alur kerja harus menggunakan model yang berbeda pada langkah-langkah yang berbeda.

Perusahaan yang menang dengan AI tidak hanya menghabiskan lebih banyak uang. Mereka menghabiskan uang dengan lebih cerdas. Mereka mencampur dan mencocokkan model untuk menjaga biaya tetap rendah.

Berhentilah membayar penalaran mahal untuk tugas-tugas sederhana.

Sumber: https://dev.to/aplomb2/uber-burned-through-its-entire-ai-coding-budget-in-4-months-heres-what-smart-teams-do-instead-2792

Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi