LLM ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਦੇ ਬਿੱਲ ਸ਼ਾਇਦ ਹੀ ਕਦੇ ਅਚਾਨਕ ਆਉਂਦੇ ਹਨ। ਇਹ ਥੋੜ੍ਹਾ-ਥੋੜ੍ਹਾ ਕਰਕੇ ਵਧਦੇ ਹਨ—ਹਜ਼ਾਰ ਰਿਕੁਐਸਟਾਂ ਲਈ ਕੁਝ ਵਾਧੂ ਡਾਲਰ, ਆਊਟਪੁੱਟ-ਟੋਕਨ ਦਰਾਂ ਵਿੱਚ ਥੋੜ੍ਹੀ ਜਿਹੀ ਵਾਧਾ, ਜਾਂ ਕੰਟੈਕਸਟ-ਵਿੰਡੋ (context-window) ਵਿੱਚ ਅਜਿਹਾ ਬਦਲਾਅ ਜੋ ਚੁੱਪਚਾਪ ਲੰਬੀਆਂ ਗੱਲਬਾਤਾਂ ਦੀ ਲਾਗਤ ਵਧਾ ਦਿੰਦਾ ਹੈ। ਜਦੋਂ ਤੱਕ ਤੁਹਾਨੂੰ ਇਸ ਬਦਲਾਅ ਦਾ ਅਸਲ ਅਹਿਸਾਸ ਹੁੰਦਾ ਹੈ, ਤੁਸੀਂ ਪਹਿਲਾਂ ਹੀ ਉਨ੍ਹਾਂ ਅੰਕੜਿਆਂ ਦੇ ਆਧਾਰ 'ਤੇ ਵਰਕਫਲੋ, ਗਾਹਕਾਂ ਨਾਲ ਵਾਅਦੇ ਅਤੇ ਬਜਟ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾ ਚੁੱਕੇ ਹੁੰਦੇ ਹੋ ਜੋ ਹੁਣ ਮੌਜੂਦ ਨਹੀਂ ਹਨ।
ਇਸੇ ਕਰਕੇ Mancer 2, Novita, ਅਤੇ StreamLake ਦੇ ਤਾਜ਼ਾ ਕੀਮਤਾਂ ਵਿੱਚ ਕੀਤੇ ਗਏ ਸੁਧਾਰਾਂ ਵੱਲ ਅਗਲੇ ਕੁਆਰਟਰ ਦੀ ਬਜਾਏ ਹੁਣ ਧਿਆਨ ਦੇਣ ਦੀ ਲੋੜ ਹੈ। ਇਹਨਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਪਲੇਟਫਾਰਮ ਅਚਾਨਕ ਦਸ ਗੁਣਾ ਵਾਧੇ ਲਈ ਚਰਚਾ ਵਿੱਚ ਨਹੀਂ ਹੈ, ਪਰ ਕਈ ਪ੍ਰੋਵਾਈਡਰਾਂ ਵਿੱਚ ਹੋਣ ਵਾਲੇ ਛੋਟੇ-ਛੋਟੇ ਬਦਲਾਅ ਤੇਜ਼ੀ ਨਾਲ ਜੁੜ ਕੇ ਵੱਡਾ ਰੂਪ ਲੈ ਲੈਂਦੇ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਪ੍ਰੋਡਕਸ਼ਨ ਵਰਕਲੋਡ ਚਲਾਉਂਦੇ ਹੋ, ਨਿਯਮਤ ਤੌਰ 'ਤੇ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਕਰਦੇ ਹੋ, ਜਾਂ ਕਈ API ਰਾਹੀਂ ਟ੍ਰੈਫਿਕ ਰੂਟ ਕਰਦੇ ਹੋ, ਤਾਂ ਦਰਾਂ ਵਿੱਚ ਇੱਕ ਮਾਮੂਲੀ ਜਿਹਾ ਬਦਲਾਅ ਵੀ ਤੁਹਾਡੀ ਯੂਨਿਟ ਇਕਨਾਮਿਕਸ (unit economics) ਨੂੰ ਬਦਲ ਸਕਦਾ ਹੈ।
ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਕੀਮਤਾਂ ਵਿੱਚ ਛੋਟੇ ਬਦਲਾਅ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹਨ
ਜ਼ਿਆਦਾਤਰ ਇੰਜੀਨੀਅਰਿੰਗ ਟੀਮਾਂ ਕੁਆਲਿਟੀ ਬੈਂਚਮਾਰਕਸ ਅਤੇ ਲੇਟੈਂਸੀ (latency) ਦੇ ਆਧਾਰ 'ਤੇ ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲ API ਦੀ ਚੋਣ ਕਰਦੀਆਂ ਹਨ। ਲਾਗਤ ਦੀ ਗੱਲ ਵੀ ਹੁੰਦੀ ਹੈ, ਪਰ ਅਕਸਰ ਇਸਨੂੰ ਇੱਕ ਸਥਿਰ ਫੁੱਟਨੋਟ ਵਾਂਗ ਲਿਆ ਜਾਂਦਾ ਹੈ। ਅਸਲ ਵਿੱਚ, ਕੀਮਤ ਤੁਹਾਡੇ ਸਟੈਕ (stack) ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਧ ਗਤੀਸ਼ੀਲ ਵੇਰੀਏਬਲਸ ਵਿੱਚੋਂ ਇੱਕ ਹੈ। ਟੋਕਨ-ਅਧਾਰਤ ਬਿਲਿੰਗ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਹਾਡੀ ਲਾਗਤ ਵਰਤੋਂ ਦੇ ਨਾਲ ਸਿੱਧੀ ਵਧਦੀ ਹੈ, ਪਰ ਇਹ ਤੁਹਾਡੇ ਵਿਵਹਾਰ (behavior) ਦੇ ਨਾਲ ਵੀ ਵਧਦੀ ਹੈ। ਲੰਬੇ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ, ਭਾਰੀ JSON ਆਊਟਪੁੱਟ ਸਕੀਮਾ, ਅਤੇ ਚੈਟ ਹਿਸਟਰੀ ਨੂੰ ਰੱਖਣਾ, ਇਹ ਸਭ ਟੋਕਨ ਦੀ ਗਿਣਤੀ ਵਧਾ ਦਿੰਦੇ ਹਨ। ਜਦੋਂ ਕੋਈ ਪ੍ਰੋਵਾਈਡਰ ਆਪਣੀ ਰੇਟ ਕਾਰਡ ਬਦਲਦਾ ਹੈ, ਤਾਂ ਇਸਦਾ ਪ੍ਰਭਾਵ ਸਿਰਫ਼ ਇੱਕ ਫਿਕਸਡ ਫੀਸ ਵਾਧਾ ਨਹੀਂ ਹੁੰਦਾ। ਇਹ ਹਰ ਭਵਿੱਖ ਦੀ ਇੰਟਰੈਕਸ਼ਨ 'ਤੇ ਇੱਕ ਗੁਣਾਕਰ (multiplier) ਵਾਂਗ ਕੰਮ ਕਰਦਾ ਹੈ।
Mancer 2, Novita, ਅਤੇ StreamLake ਹਰੇਕ ਇਨਫਰੈਂਸ (inference) ਮਾਰਕੀਟ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਵਿੱਚ ਹਨ, ਅਤੇ ਇਹਨਾਂ ਤਿੰਨਾਂ ਵਿੱਚ ਕੀਤੇ ਗਏ ਹਾਲੀਆ ਬਦਲਾਅ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਜੋ ਡਿਵੈਲਪਰ ਪਹਿਲਾਂ API ਖਰਚੇ ਲਈ ਸਿਰਫ਼ ਇੱਕ ਸਧਾਰਨ ਸਪ੍ਰੈਡਸ਼ੀਟ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਸਨ, ਉਹਨਾਂ ਨੂੰ ਹੁਣ ਵਧੇਰੇ ਸਰਗਰਮ ਨਿਗਰਾਨੀ ਰਣਨੀਤੀ ਦੀ ਲੋੜ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਇਹਨਾਂ ਅਪਡੇਟਾਂ ਨੂੰ ਮਾਮੂਲੀ ਪ੍ਰਸ਼ਾਸਨਿਕ ਨੋਟ ਵਜੋਂ ਲੈਂਦੇ ਹੋ, ਤਾਂ ਤੁਹਾਨੂੰ ਇਸਦਾ ਅਸਰ ਸਿਰਫ਼ ਆਪਣਾ ਮਹੀਨਾਵਰ ਇਨਵੌਇਸ ਆਉਣ ਤੋਂ ਬਾਅਦ ਹੀ ਪਤਾ ਲੱਗਣ ਦਾ ਖਤਰਾ ਰਹਿੰਦਾ ਹੈ।
ਕੀ ਬਦਲਿਆ ਹੈ, ਅਤੇ ਕਿੱਥੇ ਦੇਖਣਾ ਹੈ
Mancer 2 ਅਪਡੇਟਸ
Mancer 2 ਨੇ ਕੀਮਤਾਂ ਵਿੱਚ ਅਜਿਹੇ ਬਦਲਾਅ ਕੀਤੇ ਹਨ ਜੋ ਇਸਦੇ ਐਂਡਪੁਆਇੰਟਸ (endpoints) ਲਈ ਤੁਹਾਡੇ ਬਜਟ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦੇ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਇਸ ਸਮੇਂ ਪ੍ਰੋਡਕਸ਼ਨ ਟ੍ਰੈਫਿਕ ਲਈ Mancer 2 ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹੋ, ਤਾਂ ਸਭ ਤੋਂ ਪਹਿਲਾਂ ਇਹ ਜਾਂਚ ਕਰੋ ਕਿ ਕੀ ਇਹ ਅਪਡੇਟ ਇਨਪੁੱਟ ਟੋਕਨਾਂ, ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ, ਜਾਂ ਦੋਵਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ। ਕੁਝ ਪ੍ਰੋਵਾਈਡਰ ਸਿਰਫ਼ ਜਨਰੇਸ਼ਨ-ਸਾਈਡ ਦੀ ਕੀਮਤ ਨੂੰ ਐਡਜਸਟ ਕਰਦੇ ਹਨ, ਜੋ ਕਿ ਲੰਬੇ ਅਤੇ ਸੰਰਚਿਤ (structured) ਆਊਟਪੁੱਟ ਦੇਣ ਵਾਲੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਨੁਕਸਾਨਦੇਹ ਹੁੰਦਾ ਹੈ। ਦੂਜੇ ਪ੍ਰੋਂਪਟ ਪਾਸੇ ਦੀ ਲਾਗਤ ਵਧਾਉਂਦੇ ਹਨ, ਜੋ ਕਿ ਵਿਸਤ੍ਰਿਤ few-shot ਪ੍ਰੋਂਪਟਿੰਗ ਜਾਂ ਵੱਡੇ ਕੰਟੈਕਸਟ ਇੰਜੈਕਸ਼ਨਾਂ 'ਤੇ ਭਾਰ ਪਾਉਂਦਾ ਹੈ। ਵਿਸ਼ੇਸ਼ ਵੇਰਵਿਆਂ ਨੂੰ ਪੜ੍ਹੇ ਬਿਨਾਂ, ਤੁਸੀਂ ਇਹ ਨਹੀਂ ਮੰਨ ਸਕਦੇ ਕਿ ਇਸਦਾ ਪ੍ਰਭਾਵ ਸਭ 'ਤੇ ਇੱਕੋ ਜਿਹਾ ਹੈ। ਇਹ ਦੇਖਣ ਲਈ ਕਿ ਤੁਹਾਡੇ ਕਿਹੜੇ ਯੂਜ਼ ਕੇਸ ਮਹਿੰਗੇ ਹੋ ਰਹੇ ਹਨ, ਆਪਣੇ ਲੋਗਿੰਗ ਡੇਟਾ ਦੀ ਨਵੇਂ ਰੇਟ ਕਾਰਡ ਨਾਲ ਤੁਲਨਾ ਕਰੋ।
Novita ਕੀਮਤਾਂ ਵਿੱਚ ਬਦਲਾਅ
Novita ਨੇ ਵੀ ਆਪਣੀਆਂ ਦਰਾਂ ਬਦਲ ਦਿੱਤੀਆਂ ਹਨ। ਉਹਨਾਂ ਟੀਮਾਂ ਲਈ ਜੋ ਵੱਡੇ ਕਲਾਉਡ API ਦੇ ਇੱਕ ਲਾਗਤ-ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਵਿਕਲਪ ਵਜੋਂ Novita ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੀਆਂ ਹਨ, ਇੱਕ ਵਾਰ ਜਦੋਂ ਵਾਲੀਅਮ ਲੱਖਾਂ ਵਿੱਚ ਪਹੁੰਚ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਹਜ਼ਾਰ ਟੋਕਨਾਂ 'ਤੇ ਇੱਕ ਸੈਂਟ ਦਾ ਬਹੁਤ ਛੋਟਾ ਜਿਹਾ ਬਦਲਾਅ ਵੀ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। Novita ਦਾ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਅਕਸਰ ਉਹਨਾਂ ਪ੍ਰੋਜੈਕਟਾਂ ਲਈ ਫਾਇਦੇਮੰਦ ਹੁੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਮੈਨੇਜਡ ਪਲੇਟਫਾਰਮ ਪ੍ਰੀਮੀਅਮ ਦੇ ਬਿਨਾਂ ਉੱਚ ਥਰਪੁੱਟ (high throughput) ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਜਦੋਂ ਇਹ ਹਿਸਾਬ-ਕਿਤਾਬ ਬਦਲਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਆਪਣੇ ਪ੍ਰਤੀ-ਰਿਕੁਐਸਟ ਲਾਗਤ ਮਾਡਲਾਂ ਨੂੰ ਦੁਬਾਰਾ ਚਲਾਉਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਖਾਸ ਤੌਰ 'ਤੇ ਇਹ ਦੇਖੋ ਕਿ ਕੀ Novita ਨੇ ਟਾਇਰਡ ਪ੍ਰਾਈਸਿੰਗ (tiered pricing) ਸ਼ੁਰੂ ਕੀਤੀ ਹੈ, ਬਲਕ-ਇਨਫਰੈਂਸ ਡਿਸਕਾਊਂਟਾਂ ਨੂੰ ਐਡਜਸਟ ਕੀਤਾ ਹੈ, ਜਾਂ ਫ੍ਰੀ-ਟਾਇਰ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਮੁੜ ਸੰਗਠਿਤ ਕੀਤਾ ਹੈ। ਇਹਨਾਂ ਵਿੱਚੋਂ ਕੋਈ ਵੀ ਬਦਲਾਅ ਕਿਸੇ ਵਰਕਲੋਡ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਚੇਤਾਵਨੀ ਦੇ "ਸਭ ਤੋਂ ਸਸਤੇ ਵਿਕਲਪ" ਤੋਂ "ਦਰਮਿਆਨੇ ਵਿਕਲਪ" ਵਿੱਚ ਬਦਲ ਸਕਦਾ ਹੈ।
**StreamLake ਐਡਜਸਟਮੈਂਟ
First, does the update change input pricing, output pricing, or ancillary fees like embedding or fine-tuning? Split your own telemetry along those same axes. If 80 percent of your spend is on output generation and the provider only raised input costs, you might feel little pain. If you run summarization pipelines that emit short outputs from huge inputs, the opposite is true.
Second, have the rate limits or throughput tiers changed? Sometimes a provider keeps per-token pricing flat but lowers the free concurrency tier or introduces new queueing charges. That translates directly into latency and infrastructure cost.
Third, are there new cost-control tools? A pricing hike paired with a prompt-caching discount or batch-inference markdown might actually help you if you restructure your calls. The headline number never tells the whole story.
Keeping your stack predictable while costs shift
You cannot freeze provider pricing, but you can build systems that absorb change without rewriting code every quarter.
Start with request routing. If Mancer 2, Novita, and StreamLake each serve different workloads in your architecture, codify the cost-performance trade-off so you can swap traffic quickly. A fallback model that cost 20 percent more six months ago might now be the cheaper option after the latest round of updates. Without a router that considers live pricing, you leave money on the table.
Next, compress your context. Pricing changes hurt most when you are sending thousands of tokens per request out of habit. Audit your prompts for redundant system instructions, overly verbose schemas, and uncompressed chat history. Reducing input length by 30 percent neutralizes a 30 percent price increase. That is often faster than switching providers.
Cache aggressively. Many teams re-send identical or near-identical prompts because it is simpler than maintaining a cache layer. Once pricing moves, that laziness becomes expensive. Store recent completions and embeddings when your use case allows it, especially for analytical or repetitive workloads running through StreamLake or Novita endpoints.
Finally, assign someone to own the API bill review. It does not need to be a full-time role, but it needs to be a recurring calendar event. Once a month, reconcile predicted spend against actual spend, flag any provider whose rate slipped, and rerun the cost comparison against alternatives. Without ownership, pricing drift becomes architectural debt.
Make pricing hygiene part of your process
Infrastructure teams already review security patches and dependency updates on a schedule. Pricing should sit on that same checklist. The recent adjustments from Mancer 2, Novita, and StreamLake are not anomalies. They are evidence that the inference market is still finding its equilibrium. New hardware, optimized inference engines, and shifting demand will keep rate cards in motion for the foreseeable future.
The teams that manage this well do not predict every change. They simply maintain visibility. They know which endpoints cost what, which workloads are elastic, and where to move traffic when the math shifts. That discipline turns an otherwise disruptive update into a routine configuration tweak.
If you want a space to compare notes with other builders navigating the same set of changes, the GyaanSetu learning community is open. You can find us on Telegram.
The bottom line: Pricing on Mancer 2, Novita, and StreamLake has changed. Do not rely on memory or old documentation. Pull your logs, match them against the new rates, and decide whether your current routing still makes financial sense. The cheapest model last month is not guaranteed to be the cheapest model today.