Uber মাত্র ৪ মাসে তাদের সম্পূর্ণ AI কোডিং বাজেট শেষ করে ফেলেছে
AI কোডিংয়ের খরচ দ্রুত বাড়ছে।
Uber এপ্রিলের মধ্যেই তাদের ২০২৬ সালের সম্পূর্ণ Claude Code বাজেট শেষ করে ফেলেছে। তাদের কর্মীদের মাসিক খরচ ১,৫০০ ডলারে সীমাবদ্ধ করতে হয়েছে।
অন্যান্য তথ্য একটি বিশাল প্রবণতা নির্দেশ করছে:
- Gartner বলছে, ২৩% টেক লিডার প্রতি ডেভেলপার মাসে টোকেনের জন্য ২০০ থেকে ৫০০ ডলার খরচ করেন।
- GitHub Copilot ব্যবহারের ওপর ভিত্তি করে বিলিং (usage-based billing) পদ্ধতিতে চলে গেছে।
- শীর্ষস্থানীয় প্রতিষ্ঠানগুলো AI-এর জন্য প্রতি মাসে একজন কর্মীর পেছনে ৭,৫০০ ডলার খরচ করছে।
সমস্যাটি সহজ। Agentic workflows খুব দ্রুত টোকেন ব্যবহার করে ফেলে। আপনি যদি প্রতিটি কাজের জন্য একটি দামী মডেল ব্যবহার করেন, তবে আপনি টাকা অপচয় করছেন।
আমি আমার নিজের খরচের ক্ষেত্রেও এটি ঘটতে দেখেছি। আমার AI কোডিং বিল মাসে ১০,০০০ ডলারে পৌঁছে গিয়েছিল।
আমি সবকিছুর জন্য Claude Opus ব্যবহার করতাম। আমি এটি কোড প্ল্যানিং, টেস্ট লেখা, ফাইল ফরম্যাটিং এবং ভেরিয়েবল রিনেম করার জন্য ব্যবহার করতাম।
এটি অনেকটা আসবাবপত্র সরানোর জন্য একজন সিনিয়র আর্কিটেক্টকে ভাড়া করার মতো। কাজ তো হবেই, কিন্তু আপনাকে অনেক বেশি টাকা দিতে হবে।
আমি আমার ব্যবহারের ধরন বিশ্লেষণ করে একটি প্যাটার্ন খুঁজে পেয়েছি:
- ১৫% কাজের জন্য উচ্চ-স্তরের রিজনিং (high-level reasoning) প্রয়োজন ছিল।
- ২৫% কাজের জন্য মিড-টিয়ার (mid-tier) সক্ষমতা প্রয়োজন ছিল।
- ৬০% কাজ ছিল যান্ত্রিক (mechanical)।
সেই ৬০% কাজের জন্য কোনো ফ্রন্টিয়ার মডেলের (frontier model) প্রয়োজন নেই। ছোট মডেলগুলো অনেক কম খরচে এটি করতে পারে।
বুদ্ধিমান টিমগুলো কাজগুলোকে সঠিক মডেলে পাঠিয়ে দেয়:
- Tier 1 (Frontier Models): আর্কিটেকচার, জটিল বাগ (bugs) এবং সিকিউরিটির জন্য এগুলো ব্যবহার করুন।
- Tier 2 (Mid-Tier Models): ফিচার ইমপ্লিমেন্টেশন এবং কোড রিভিউয়ের জন্য এগুলো ব্যবহার করুন।
- Tier 3 (Fast/Cheap Models): ফরম্যাটিং, ডকুমেন্টেশন এবং বয়লারপ্লেটের (boilerplate) জন্য এগুলো ব্যবহার করুন।
আমি এই পদ্ধতিতে চলে এসেছি। আমার মাসিক খরচ ১০,০০০ ডলার থেকে কমে ৩,০০০ ডলারে নেমে এসেছে। আমার কাজের গুণমান একই রয়েছে।
কীভাবে শুরু করবেন:
- এক সপ্তাহের জন্য আপনার API প্রম্পটগুলো লগ করুন।
- কনটেক্সট ব্লট (context bloat) বা অপ্রয়োজনীয় থিংকিং লুপ (thinking loops) খুঁজুন।
- সেশনের পরিবর্তে কাজের ধরন অনুযায়ী রুট করুন। একটি সিঙ্গেল ওয়ার্কফ্লোর বিভিন্ন ধাপে বিভিন্ন মডেল ব্যবহার করা উচিত।
যে কোম্পানিগুলো AI-এর মাধ্যমে সফল হচ্ছে তারা শুধু বেশি খরচ করছে না। তারা আরও বুদ্ধিমত্তার সাথে খরচ করছে। খরচ কমাতে তারা বিভিন্ন মডেলের সমন্বয় (mix and match) করছে।
সাধারণ কাজের জন্য দামী রিজনিংয়ের পেছনে টাকা খরচ করা বন্ধ করুন।
Optional learning community: https://t.me/GyaanSetuAi