Claude Opus 5 ਹੁਣ ਉਹੀ ਕੰਮ ਕਰਨ ਲਈ Opus 4.8 ਨਾਲੋਂ ਤਿੰਨ ਗੁਣਾ ਜ਼ਿਆਦਾ ਖਰਚਾ ਕਰਦਾ ਹੈ, ਭਾਵੇਂ ਦੋਵੇਂ ਮਾਡਲਾਂ ਦੀ ਪ੍ਰਤੀ ਟੋਕਨ ਕੀਮਤ ਇੱਕੋ ਜਿਹੀ ਹੈ। ਇਸਦਾ ਮੁੱਖ ਕਾਰਨ ਡਿਫੌਲਟ “adaptive thinking” ਫੀਚਰ ਹੈ, ਜੋ ਚੁੱਪਚਾਪ ਹਿਡਨ ਰੀਜ਼ਨਿੰਗ (hidden reasoning) ਵਜੋਂ ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇਸ ਫੀਚਰ ਨੂੰ ਬੰਦ ਕਰਨ ਨਾਲ ਸਹੀਤਾ (accuracy) ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਏ ਬਿਨਾਂ ਖਰਚੇ ਵਿੱਚ ਬਰਾਬਰੀ ਆ ਜਾਂਦੀ ਹੈ।

ਕੀਮਤ ਵਿੱਚ ਅੰਤਰ ਕਿਉਂ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ

ਦੋਵੇਂ ਵਰਜ਼ਨ $5 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਇਨਪੁੱਟ ਟੋਕਨ ਅਤੇ $25 ਪ੍ਰਤੀ ਮਿਲੀਅਨ ਆਊਟਪੁੱਟ ਟੋਕਨ ਵਸੂਲਦੇ ਹਨ। ਸਾਡੇ ਬੈਂਚਮਾਰਕਸ ਵਿੱਚ, ਇੱਕੋ ਜਿਹੇ ਪ੍ਰੋਂਪਟ ਚਲਾਉਣ ਵੇਲੇ Opus 5 ਦਾ ਬਿੱਲ Opus 4.8 ਨਾਲੋਂ 3.1 × ਜ਼ਿਆਦਾ ਸੀ। ਇਹ ਵਾਧੂ ਖਰਚਾ ਉੱਚੀ ਲਿਸਟ ਪ੍ਰਾਈਸ ਕਾਰਨ ਨਹੀਂ ਹੈ; ਇਹ ਉਸ ਤਰੀਕੇ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ ਜਿਸ ਨਾਲ Opus 5 ਆਪਣੀ ਅੰਦਰੂਨੀ ਸੋਚਣ ਦੀ ਪ੍ਰਕਿਰਿਆ (internal thought process) ਦਾ ਹਿਸਾਬ ਰੱਖਦਾ ਹੈ।

adaptive thinking ਕੀ ਕਰਦਾ ਹੈ

ਜਦੋਂ adaptive thinking ਚਾਲੂ ਹੁੰਦੀ ਹੈ, ਤਾਂ ਮਾਡਲ ਅੰਤਿਮ ਉੱਤਰ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਵਾਧੂ ਅੰਦਰੂਨੀ ਤਰਕ (internal reasoning) ਕਰਦਾ ਹੈ। ਉਸ ਤਰਕ ਨੂੰ ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ ਵਜੋਂ ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ, ਭਾਵੇਂ ਉਹ ਕਦੇ ਵੀ ਉਪਭੋਗਤਾ ਤੱਕ ਨਹੀਂ ਪਹੁੰਚਦਾ। ਸਿੱਧੇ ਸਵਾਲਾਂ 'ਤੇ, ਬਿੱਲ ਕੀਤੇ ਗਏ ਆਊਟਪੁੱਟ ਟੋਕਨਾਂ ਦਾ 42% ਤੋਂ 95% ਤੱਕ ਇਹ ਹਿਡਨ ਰੀਜ਼ਨਿੰਗ ਹੁੰਦੀ ਹੈ। ਇਸ ਤਰ੍ਹਾਂ, ਇੱਕ ਸਧਾਰਨ ਅੰਕਗਣਿਤ ਦੀ ਸਮੱਸਿਆ ਜਿਸਦਾ ਇੱਕ ਅੰਕ ਵਾਲਾ ਉੱਤਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਉਹ ਦਰਜਨਾਂ ਅਣਦੇਖੇ ਟੋਕਨ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਖਰਚਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਵਧ ਜਾਂਦਾ ਹੈ।

ਇਹ ਫੀਚਰ ਕੋਈ ਬੱਗ (bug) ਨਹੀਂ ਹੈ—Claude ਦੇ ਡਿਜ਼ਾਈਨਰਾਂ ਦਾ ਉਦੇਸ਼ ਇਸ ਰਾਹੀਂ ਗੁੰਝਲਦਾਰ ਕੰਮਾਂ 'ਤੇ ਉੱਤਰ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨਾ ਹੈ। ਅਸਲ ਵਿੱਚ, ਹਿਡਨ ਰੀਜ਼ਨਿੰਗ ਅਕਸਰ ਔਖੇ ਪ੍ਰੋਂਪਟਸ 'ਤੇ ਮਾਮੂਲੀ ਸਹੀਤਾ ਵਧਾਉਂਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਮਾਡਲ ਨੂੰ ਕਈ ਕਦਮਾਂ ਨੂੰ ਜੋੜਨਾ ਪਵੇ ਜਾਂ ਬਾਹਰੀ ਟੂਲਸ ਨਾਲ ਇੰਟਰੈਕਟ ਕਰਨਾ ਪਵੇ।

ਖਰਚਿਆਂ ਨੂੰ ਕਿਵੇਂ ਕੰਟਰੋਲ ਕਰੀਏ

ਮਾਡਲ ਇੱਕ ਸਿੰਗਲ ਪੈਰਾਮੀਟਰ ਸਵੀਕਾਰ ਕਰਦਾ ਹੈ ਜੋ adaptive thinking ਨੂੰ ਬੰਦ ਕਰ ਦਿੰਦਾ ਹੈ:

{
  "thinking": {"type": "disabled"}
}

Opus 5 'ਤੇ ਇਹ ਸੈਟਿੰਗ ਲਾਗੂ ਕਰਨ ਨਾਲ ਇਸਦਾ ਪ੍ਰਤੀ-ਟਾਸਕ ਖਰਚਾ ਬਿਲਕੁਲ ਉਨਾ ਹੀ ਹੋ ਜਾਂਦਾ ਹੈ ਜਿੰਨਾ Opus 4.8 ਵਸੂਲਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਸਾਡੇ ਦੁਆਰਾ ਟੈਸਟ ਕੀਤੇ ਗਏ ਸਧਾਰਨ ਕੰਮਾਂ 'ਤੇ ਨਤੀਜਿਆਂ ਦੀ ਸਹੀਤਾ ਉਹੀ ਰਹਿੰਦੀ ਹੈ।

ਕਦੋਂ ਬੰਦ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ

  • ਟੈਕਸਟ ਤੋਂ ਡੇਟਾ ਕੱਢਣਾ (Extraction)
  • ਫਾਰਮੈਟਿੰਗ ਕਾਰਜ (ਜਿਵੇਂ ਕਿ JSON ਕਨਵਰਸ਼ਨ)
  • ਸਿੰਗਲ-ਸਟੈਪ ਕਾਲਸ ਜਿੱਥੇ ਉੱਤਰ ਇੱਕ ਸਿੱਧੀ ਲੁੱਕਅੱਪ ਜਾਂ ਇੱਕ ਸਧਾਰਨ ਗਣਨਾ ਹੈ

ਇਹਨਾਂ ਮਾਮਲਿਆਂ ਵਿੱਚ 'thinking' ਨੂੰ ਬੰਦ ਕਰਨ ਨਾਲ ਹਿਡਨ ਟੋਕਨ ਟੈਕਸ ਖਤਮ ਹੋ ਜਾਂਦਾ ਹੈ ਅਤੇ ਬਿੱਲ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣਾ ਆਸਾਨ ਰਹਿੰਦਾ ਹੈ।

ਕਦੋਂ ਚਾਲੂ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ

  • ਉਹ ਕੰਮ ਜਿਨ੍ਹਾਂ ਲਈ ਡੂੰਘੇ ਤਰਕ (logical chains) ਜਾਂ ਬਾਰੀਕ ਰੀਜ਼ਨਿੰਗ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
  • ਏਜੰਟ ਵਰਕਫਲੋਜ਼ ਜੋ ਵਾਰ-ਵਾਰ ਬਾਹਰੀ ਟੂਲਸ ਨੂੰ ਕਾਲ ਕਰਦੇ ਹਨ

ਟੂਲ-ਭਾਰੀ ਸਥਿਤੀਆਂ ਵਿੱਚ, ਕੀਮਤ ਦਾ ਅੰਤਰ ਘਟ ਕੇ ਲਗਭਗ 33% ਰਹਿ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ ਮਾਡਲ ਟੂਲ ਕਾਲਸ ਦੇ ਦੌਰਾਨ ਅੰਦਰੂਨੀ ਰੀਜ਼ਨਿੰਗ 'ਤੇ ਘੱਟ ਖਰਚਾ ਕਰਦਾ ਹੈ।

ਹੋਰ ਮਹੱਤਵਪੂਰਨ ਅੰਤਰ

  • Context window: Opus 5 ਇੱਕ ਮਿਲੀਅਨ ਟੋਕਨਾਂ ਤੱਕ ਰੱਖ ਸਕਦਾ ਹੈ, ਜਿਸਦੀ ਅਸੀਂ ਟੋਕਨ 969,950 'ਤੇ ਰੱਖੀ ਗਈ ਇੱਕ ਟਾਰਗੇਟ ਸਟ੍ਰਿੰਗ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਕੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਹੈ।
  • Cache floor: ਘੱਟੋ-ਘੱਟ ਕੈਸ਼ ਸਾਈਜ਼ ਘਟ ਕੇ 512 ਟੋਕਨਾਂ ਤੱਕ ਆ ਗਿਆ ਹੈ, ਜੋ ਕਿ Opus 4.8 ਦੇ ਅੱਧਾ ਹੈ, ਜਿਸ ਨਾਲ ਇਸ ਗੱਲ 'ਤੇ ਅਸਰ ਪੈਂਦਾ ਹੈ ਕਿ ਮਾਡਲ ਰੀ-ਟੋਕਨਾਈਜ਼ ਕੀਤੇ ਬਿਨਾਂ ਪਿਛਲੀ ਗੱਲਬਾਤ ਦਾ ਕਿੰਨਾ ਹਿੱਸਾ ਦੁਬਾਰਾ ਵਰਤ ਸਕਦਾ ਹੈ।

ਅੱਗੇ ਕਿਸ ਚੀਜ਼ 'ਤੇ ਨਜ਼ਰ ਰੱਖੀਏ

ਡਿਵੈਲਪਰਾਂ ਨੂੰ "reasoning tokens" ਜਾਂ ਅਜਿਹੇ ਹੋਰ ਆਈਟਮਾਂ ਲਈ ਵਰਤੋਂ ਰਿਪੋਰਟਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਜੋ ਦੱਸਦੇ ਹਨ ਕਿ adaptive thinking ਚਾਲੂ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਵਧੇਰੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਏਜੰਟ-ਸਟਾਈਲ ਕੰਮਾਂ ਲਈ Claude ਨੂੰ ਅਪਣਾ ਰਹੀਆਂ ਹਨ, ਖਰਚੇ ਅਤੇ ਗੁਣਵੱਤਾ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਬਣਾਉਣਾ ਇੱਕ ਮੁੱਖ ਅਨੁਕੂਲਨ (optimisation) ਫੈਸਲਾ ਬਣ ਜਾਵੇਗਾ। ਭਵਿੱਖ ਦੇ ਅਪਡੇਟਸ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਿਰਫ਼ 'ਚਾਲੂ ਜਾਂ ਬੰਦ' ਦੀ ਬਜਾਏ ਰੀਜ਼ਨਿੰਗ ਦੀ ਡੂੰਘਾਈ ਨੂੰ ਟਿਊਨ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦੇ ਸਕਦੇ ਹਨ, ਜੋ ਕਿ ਖਰਚੇ ਦੇ ਵਾਧੇ ਨੂੰ ਸਥਿਰ ਕਰ ਸਕਦਾ ਹੈ।

Takeaway: Opus 5 ਦੀ ਡਿਫੌਲਟ adaptive thinking ਸੌਖੇ ਕੰਮਾਂ 'ਤੇ ਟੋਕਨ ਦੀ ਵਰਤੋਂ ਵਧਾ ਦਿੰਦੀ ਹੈ। Opus 4.8 ਦੇ ਖਰਚੇ ਦੇ ਬਰਾਬਰ ਰਹਿਣ ਲਈ ਉੱਪਰ ਦਿੱਤੀ ਸਧਾਰਨ ਸੈਟਿੰਗ ਨਾਲ ਇਸਨੂੰ ਬੰਦ ਕਰ ਦਿਓ, ਅਤੇ ਇਸਨੂੰ ਉਦੋਂ ਹੀ ਚਾਲੂ ਕਰੋ ਜਦੋਂ ਵਾਧੂ ਰੀਜ਼ਨਿੰਗ ਵਾਧੂ ਖਰਚੇ ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਵੇ।