AI API-এর প্রকৃত খরচ

একটি ওয়েবসাইটে দেখানো API-এর দাম আপনার প্রকৃত প্রোডাকশন বাজেট নয়।

প্রাইসিং পেজগুলোতে ইউনিট রেট দেখানো হয়। সেখানে প্রতি মিলিয়ন টোকেন বা প্রতি ইমেজের খরচ দেখানো হয়। এই সংখ্যাগুলো দরকারী হলেও অসম্পূর্ণ।

একটি প্রকৃত প্রোডাক্ট কেবল একটি রিকোয়েস্টের বেশি ব্যবহার করে। আপনাকে নিচের বিষয়গুলো বিবেচনা করতে হবে:

এই বিষয়গুলো কীভাবে হিসাব বদলে দেয় তা দেখার জন্য আমি তিনটি ওয়ার্কলোডের (workloads) জন্য একটি বাজেট মডেল তৈরি করেছি।

১. Standard LLM Applications একটি সাধারণ হিসাব অনুযায়ী ৬,০০০ রিকোয়েস্টের জন্য খরচ হতে পারে $৮১। কিন্তু আপনি যদি ৩% রিট্রাই রেট এবং ১৫% প্ল্যানিং বাফার যোগ করেন, তবে আপনার খরচ বেড়ে দাঁড়াবে $৯৫.৯৪। স্কেল বাড়ার সাথে সাথে এই পার্থক্য আরও বাড়তে থাকে।

২. Coding Agent Workflows কোডিং এজেন্টদের মেসেজ দিয়ে পরিমাপ করবেন না। বরং তাদের সম্পন্ন করা কাজ (task) দিয়ে পরিমাপ করুন। একটি কাজের মধ্যে থাকতে পারে:

একই ছোট উত্তরের জন্য দুটি কাজের খরচ ভিন্ন হতে পারে, যদি একটি কাজের জন্য পুরো একটি রিপোজিটরি পড়তে হয় এবং অন্যটির জন্য কেবল একটি ফাইল পড়তে হয়।

৩. Image Generation একটি গ্রহণযোগ্য ইমেজের খরচ মানেই একটি API কলের খরচ নয়। যদি একজন ব্যবহারকারী তার পছন্দমতো একটি ছবি পেতে গড়ে ২.৪ বার চেষ্টা করেন, তবে আপনার খরচ দ্বিগুণেরও বেশি হয়ে যাবে।

এই খরচগুলো সামলাতে আপনার বিস্তারিত রেকর্ড প্রয়োজন। টেক্সটের ক্ষেত্রে রিকোয়েস্ট আইডি (request IDs), টোকেন এবং রিট্রাই ট্র্যাক করুন। মিডিয়ার ক্ষেত্রে জব আইডি (job IDs) এবং ব্যর্থতার ধাপগুলো (failure stages) ট্র্যাক করুন।

আমি খরচ পরিকল্পনাকে চারটি স্তরে ভাগ করেছি:

একটি ক্যালকুলেটর হলো একটি পরিকল্পনা করার টুল। এটি মডেলের গুণমান বা ভবিষ্যতের দামের পরিবর্তন সম্পর্কে পূর্বাভাস দিতে পারে না। এটি একটি বেসলাইন তৈরির জন্য ব্যবহার করুন, তারপর আপনার প্রকৃত বিলিং ড্যাশবোর্ডের সাথে তা তুলনা করুন।

Source: https://dev.to/cleandatadev/i-compared-the-real-cost-of-claude-code-openrouter-and-image-apis-1cip

Optional learning community: https://t.me/GyaanSetuAi