उबेरने आपला संपूर्ण AI कोडिंग बजेट ४ महिन्यांत संपवले

AI कोडिंगचा खर्च वेगाने वाढत आहे.

उबेरने एप्रिलपर्यंत आपला संपूर्ण २०२६ Claude Code बजेट खर्च केले. त्यांना कर्मचाऱ्यांचा खर्च प्रति महिना $१,५०० पर्यंत मर्यादित करावा लागला.

इतर डेटा एक मोठा कल दर्शवतो:

  • Gartner नुसार, २३% टेक लीडर्स दरमहा प्रति डेव्हलपर टोकन्सवर $२०० ते $५०० खर्च करतात.
  • GitHub Copilot वापरानुसार बिलिंग (usage-based billing) कडे वळले आहे.
  • आघाडीच्या कंपन्या AI वर प्रति कर्मचारी दरमहा $७,५०० खर्च करतात.

समस्या सोपी आहे. Agentic workflows टोकन्सचा वापर खूप वेगाने करतात. जर तुम्ही प्रत्येक कामासाठी एक महागडे मॉडेल वापरले, तर तुमचे पैसे वाया जातात.

माझ्या स्वतःच्या खर्चातही मी हे घडताना पाहिले. माझे AI कोडिंग बिल प्रति महिना $१०,००० पर्यंत पोहोचले होते.

मी प्रत्येक गोष्टीसाठी Claude Opus वापरत होतो. मी त्याचा वापर कोड प्लॅनिंग, टेस्ट लिहिणे, फाईल्स फॉरमॅट करणे आणि व्हेरिएबल्सची नावे बदलण्यासाठी करत होतो.

हे फर्निचर हलवण्यासाठी एखाद्या सिनियर आर्किटेक्टला कामावर ठेवण्यासारखे आहे. काम तर होते, पण तुम्ही त्यासाठी खूप जास्त पैसे मोजता.

मी माझ्या वापराचे विश्लेषण केले आणि मला एक पॅटर्न आढळला:

  • १५% कामांसाठी उच्च-स्तरीय तर्काची (high-level reasoning) गरज होती.
  • २५% कामांसाठी मध्यम-स्तरीय क्षमतेची (mid-tier capability) गरज होती.
  • ६०% कामे या यांत्रिक (mechanical) स्वरूपाची होती.

त्या ६०% कामासाठी frontier model ची गरज नाही. लहान मॉडेल्स हे काम खूप कमी खर्चात करू शकतात.

हुशार टीम्स कामे योग्य मॉडेलकडे वळवतात (route करतात):

  • Tier 1 (Frontier Models): आर्किटेक्चर, गुंतागुंतीचे बग्स आणि सुरक्षा यासाठी यांचा वापर करा.
  • Tier 2 (Mid-Tier Models): फीचर इम्प्लिमेंटेशन आणि कोड रिव्ह्यूसाठी यांचा वापर करा.
  • Tier 3 (Fast/Cheap Models): फॉरमॅटिंग, डॉक्युमेंटेशन आणि बॉयलरप्लेटसाठी यांचा वापर करा.

मी या पद्धतीचा अवलंब केला. माझा मासिक खर्च $१०,००० वरून $३,००० वर आला. माझ्या आउटपुटची गुणवत्ता तशीच राहिली.

सुरुवात कशी करावी:

  • एक आठवडा तुमच्या API प्रॉम्प्ट्सची नोंद (log) ठेवा.
  • कॉन्टेक्स्ट ब्लोट (context bloat) किंवा अनावश्यक थिंकिंग लूप्स तपासा.
  • सेशनऐवजी कामाच्या (task) स्वरूपावरून मॉडेल निवडा. एकाच वर्कफ्लोमध्ये वेगवेगळ्या टप्प्यांवर वेगवेगळी मॉडेल्स वापरली पाहिजेत.

AI मध्ये यश मिळवणाऱ्या कंपन्या फक्त जास्त खर्च करत नाहीत. त्या अधिक हुशारीने खर्च करतात. खर्च कमी ठेवण्यासाठी त्या विविध मॉडेल्सचे मिश्रण (mix and match) करतात.

साध्या कामांसाठी महागड्या तर्कासाठी (reasoning) पैसे मोजणे थांबवा.

Source: https://dev.to/aplomb2/uber-burned-through-its-entire-ai-coding-budget-in-4-months-heres-what-smart-teams-do-instead-2792

Optional learning community: https://t.me/GyaanSetuAi