لارج لینگویج ماڈل (LLM) کی قیمتیں بظاہر سادہ نظر آتی ہیں۔ آپ فی ٹوکن ادائیگی کرتے ہیں۔ لیکن پروڈکشن ورک لوڈز چلانے والا کوئی بھی شخص جانتا ہے کہ حقیقت اس سے کہیں زیادہ پیچیدہ ہے۔ قیمتیں بغیر کسی اعلان کے بدل جاتی ہیں۔ بلنگ کے درجوں (tiers) کی دوبارہ ترتیب دی جاتی ہے۔ ایک سینٹ کا معمولی حصہ یہاں غائب ہوتا ہے اور وہاں نمودار ہوتا ہے، اور اچانک آپ کا ماہانہ خرچ بیس فیصد بڑھ جاتا ہے۔ یہی وجہ ہے کہ تین فراہم کنندگان—Ambient، Novita، اور StreamLake—کی حالیہ قیمتوں میں ہونے والی تبدیلیاں آپ کی فوری توجہ کی مستحق ہیں۔ اگر آپ ان میں سے کسی بھی پلیٹ فارم کا استعمال کر رہے ہیں، تو گزشتہ ماہ آپ نے جو بجٹ بنایا تھا وہ اب قابل بھروسہ نہیں رہا۔

ٹوکن اکنامکس کا پوشیدہ بوجھ

زیادہ تر ڈویلپرز بنیادی ریٹ پر توجہ مرکوز کرتے ہیں۔ ان پٹ ٹوکنز کی قیمت اتنی ہے۔ آؤٹ پٹ ٹوکنز کی قیمت اتنی ہے۔ بس بات ختم۔ لیکن ایسا نہیں ہے۔ ایک LLM انٹیگریشن کی اصل قیمت میں ری ٹرائی لاجک (retry logic)، ناکام درخواستیں جن کا بل پھر بھی آتا ہے، کانٹیکسٹ ونڈو پیڈنگ (context window padding)، اور سسٹم پرامپٹس شامل ہیں جو ہر بار آپ کے ان پٹ الاکیشن کو کم کر دیتے ہیں۔ جب کوئی فراہم کنندہ اپنی قیمتوں کو اپ ڈیٹ کرتا ہے، تو وہ شاذ و نادر ہی تمام ریٹس کو یکساں طور پر بڑھاتا ہے۔ کبھی کبھی ان پٹ سستا ہو جاتا ہے جبکہ آؤٹ پٹ مہنگا ہو جاتا ہے۔ کبھی کبھی لانگ کانٹیکسٹ ماڈلز ایک الگ درجے (tier) میں منتقل ہو جاتے ہیں۔ کبھی کبھی تبدیلی فی ٹوکن ریٹ میں نہیں بلکہ کم از کم کمپیوٹ چارج یا بیچ پروسیسنگ ڈسکاؤنٹ میں ہوتی ہے۔

اگر آپ کسی ٹیم کے اخراجات کا انتظام کرتے ہیں، تو آپ کو ان اپ ڈیٹس کو معمولی نوٹ کے بجائے انفراسٹرکچر کے واقعات کے طور پر دیکھنا چاہیے۔ قیمتوں کا صفحہ دراصل ڈالرز میں لکھا گیا سروس لیول معاہدہ (SLA) ہے۔ جب یہ بدلتا ہے، تو ہو سکتا ہے کہ آپ کے آرکیٹیکچر کو بھی اس کے ساتھ بدلنے کی ضرورت پڑے۔

Ambient کی قیمتوں میں اپ ڈیٹ

Ambient نے اپنے ماڈل کی قیمتوں میں تبدیلی کی ہے، جس کا مطلب ہے کہ ان کے اینڈ پوائنٹس (endpoints) پر چلنے والی آپ کی کسی بھی انٹیگریشن کو نئے سرے سے دیکھنے کی ضرورت ہے۔ واضح چیز سے شروع کریں: نئے ان پٹ اور آؤٹ پٹ ریٹس کا اپنے گزشتہ انوائس سے موازنہ کریں۔ یادداشت پر بھروسہ نہ کریں۔ دونوں صفحات کو آمنے سامنے کھولیں۔

خاص طور پر کانٹیکسٹ ونڈو (context-window) کی قیمتوں پر نظر رکھیں۔ کچھ فراہم کنندگان 4K ٹوکنز تک ایک ہی ریٹ لیتے ہیں، پھر 8K، 32K، یا 128K کی حد پر قیمت بڑھا دیتے ہیں۔ اگر Ambient نے ان درجوں کو مزید سخت کر دیا ہے یا نئے درجے شامل کیے ہیں، تو آپ کے طویل دستاویزات کے خلاصے (summarization) کے کام اچانک آپ کے Q&A بوٹس کے مقابلے میں کافی مہنگے ہو سکتے ہیں۔ یہ بھی چیک کریں کہ آیا انہوں نے آؤٹ پٹ ٹوکن کی تعریف میں کوئی تبدیلی کی ہے۔ کچھ وینڈرز اندرونی ریژوننگ (reasoning) یا ٹول کالنگ (tool-calling) ٹوکنز کو آؤٹ پٹ کے طور پر بل کرتے ہیں؛ دوسرے ایسا نہیں کرتے۔ یہ ابہام جلد ہی انوائس میں حیران کن اخراجات کی شکل اختیار کر لیتا ہے۔

اگر آپ رسپانسز کو کیش (cache) کر رہے ہیں، تو تصدیق کریں کہ آیا Ambient نے اپنی کیش ہٹ (cache hit) قیمتوں میں تبدیلی کی ہے۔ کچھ فراہم کنندگان بار بار استعمال ہونے والے پرامپٹس پر ڈسکاؤنٹ دیتے ہیں۔ اگر وہ ڈسکاؤنٹ کم ہو گیا ہے، تو آپ کی ڈی ڈپلیکیشن (deduplication) حکمت عملی کو مزید مضبوط کرنے کی ضرورت پڑ سکتی ہے۔

Novita کے انفرنس ریٹس

Novita ایک انفرنس پلیٹ فارم کے طور پر کام کرتا ہے جہاں ڈویلپرز متحد اینڈ پوائنٹس کے ذریعے مختلف ماڈلز تک رسائی حاصل کرتے ہیں۔ یہ سہولت قیمتی ہے، لیکن اس کا مطلب یہ بھی ہے کہ قیمتوں میں تبدیلیاں ایک ساتھ کئی ماڈل فیملیز پر اثر انداز ہو سکتی ہیں۔ Novita کی اپ ڈیٹ شدہ قیمتیں چھوٹے ایمبیڈنگ ماڈلز (embedding models) سے لے کر بڑے ریژوننگ انجنوں (reasoning engines) تک سب کچھ متاثر کر سکتی ہیں۔

اپنے یوزج لاگز (usage logs) نکالیں اور انہیں ماڈل کے لحاظ سے گروہ بندی کریں۔ ہو سکتا کہ Novita نے جنرل چیٹ ماڈلز کے لیے ریٹس کو برقرار رکھا ہو جبکہ ویژن یا کوڈ کے لیے مخصوص ورژنز کے لیے انہیں بڑھا دیا ہو۔ یا ہو سکتا انہوں نے علاقائی قیمتیں متعارف کرائی ہوں جو آپ کے یورپی ٹریفک کو زیادہ مہنگے نوڈز (nodes) کے ذریعے گزارتی ہوں۔ اگر آپ نے اپنی ایپلی کیشن میں ماڈلز کا انتخاب ہارڈ کوڈ (hardcode) کیا ہوا ہے، تو ایک ماڈل پر ریٹ میں اضافہ کسی تھوڑے سے سست متبادل کو ایک منطقی انتخاب بنا سکتا ہے۔

تھرو پٹ چارجز (throughput charges) پر توجہ دیں۔ Novita جیسے پلیٹ فارمز کبھی کبھی ٹوکن کی قیمت کو ڈیلیوری کی رفتار سے الگ رکھتے ہیں۔ اگر آپ پریمیم لو لیٹنسی (low-latency) اینڈ پوائنٹس کے لیے ادائیگی کر رہے ہیں، تو چیک کریں کہ آیا وہ سرچارج بڑھ گیا ہے۔ بیچ یا آف لائن ورک لوڈز کے لیے،