Claude Opus 5 ಈಗ ಒಂದೇ ರೀತಿಯ ಕೆಲಸದ ಪ್ರಮಾಣಕ್ಕೆ Opus 4.8 ಗಿಂತ ಮೂರು ಪಟ್ಟು ಹೆಚ್ಚು ವೆಚ್ಚವನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ, ಎರಡೂ ಮಾಡೆಲ್‌ಗಳು ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಒಂದೇ ಬೆಲೆಯನ್ನು ಹೊಂದಿದ್ದರೂ ಸಹ. ಇದಕ್ಕೆ ಕಾರಣವೆಂದರೆ ಡಿಫಾಲ್ಟ್ “adaptive thinking” ಫೀಚರ್, ಇದು ಗುಪ್ತ ತರ್ಕವಾಗಿ (hidden reasoning) ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತದೆ. ಈ ಫೀಚರ್ ಅನ್ನು ಆಫ್ ಮಾಡುವುದರಿಂದ ನಿಖರತೆಯನ್ನು ಕಡಿಮೆ ಮಾಡದೆ ವೆಚ್ಚವನ್ನು ಸಮಾನಗೊಳಿಸಬಹುದು.

Why the price gap appears

ಎರಡೂ ಆವೃತ್ತಿಗಳು ಪ್ರತಿ ಮಿಲಿಯನ್ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $5 ಮತ್ತು ಪ್ರತಿ ಮಿಲಿಯನ್ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳಿಗೆ $25 ವಿಧಿಸುತ್ತವೆ. ನಮ್ಮ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳಲ್ಲಿ, ಒಂದೇ ರೀತಿಯ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ರನ್ ಮಾಡಿದಾಗ Opus 5 ರ ಬಿಲ್ Opus 4.8 ಗಿಂತ 3.1 ಪಟ್ಟು ಹೆಚ್ಚಾಗಿತ್ತು. ಈ ಹೆಚ್ಚಿನ ಶುಲ್ಕವು ಹೆಚ್ಚಿನ ಬೆ列表 ಬೆಲೆಯಿಂದ ಬರುವುದಿಲ್ಲ; ಬದಲಾಗಿ Opus 5 ತನ್ನ ಆಂತರಿಕ ಚಿಂತನಾ ಪ್ರಕ್ರಿಯೆಯನ್ನು (internal thought process) ಹೇಗೆ ಲೆಕ್ಕಹಾಕುತ್ತದೆ ಎಂಬುದರ ಮೇಲೆ ಇದು ಅವಲಂಬಿತವಾಗಿದೆ.

What adaptive thinking does

adaptive thinking ಸಕ್ರಿಯಗೊಂಡಾಗ, ಮಾಡೆಲ್ ಅಂತಿಮ ಉತ್ತರವನ್ನು ನೀಡುವ ಮೊದಲು ಹೆಚ್ಚಿನ ಆಂತರಿಕ ತರ್ಕವನ್ನು ಮಾಡುತ್ತದೆ. ಆ ತರ್ಕವು ಬಳಕೆದಾರರಿಗೆ ಕಾಣಿಸದಿದ್ದರೂ ಸಹ, ಅದನ್ನು ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳಾಗಿ ಎಣಿಸಲಾಗುತ್ತದೆ. ಸರಳ ಪ್ರಶ್ನೆಗಳಲ್ಲಿ, ಬಿಲ್ ಮಾಡಲಾದ ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳಲ್ಲಿ ಶೇಕಡಾ 42 ರಿಂದ 95 ರಷ್ಟು ಈ ಗುಪ್ತ ತರ್ಕವಾಗಿರುತ್ತದೆ. ಆದ್ದರಿಂದ, ಕೇವಲ ಒಂದು ಅಂಕಿ ಅಥವಾ ಸಣ್ಣ ಉತ್ತರವನ್ನು ನೀಡಬೇಕಾದ ಸರಳ ಅಂಕಗಣಿತದ ಸಮಸ್ಯೆಯು ಡಜನ್‌ಗಟ್ಟಲೆ ಕಾಣದ ಟೋಕನ್‌ಗಳನ್ನು ಸೃಷ್ಟಿಸಬಹುದು, ಇದು ವೆಚ್ಚವನ್ನು ಗಣನೀಯವಾಗಿ ಹೆಚ್ಚಿಸುತ್ತದೆ.

ಈ ಫೀಚರ್ ಬಗ್ ಅಲ್ಲ—Claude ವಿನ್ಯಾಸಕರು ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳಲ್ಲಿ ಉತ್ತರದ ಗುಣಮಟ್ಟವನ್ನು ಸುಧಾರಿಸಲು ಇದನ್ನು ಉದ್ದೇಶಿಸಿದ್ದಾರೆ. ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಕಠಿಣ ಪ್ರಾಂಪ್ಟ್‌ಗಳಲ್ಲಿ ಈ ಗುಪ್ತ ತರ್ಕವು ಸಾಧಾರಣ ನಿಖರತೆಯ ಲಾಭವನ್ನು ನೀಡುತ್ತದೆ, ವಿಶೇಷವಾಗಿ ಮಾಡೆಲ್ ಹಲವಾರು ಹಂತಗಳನ್ನು ಅನುಸರಿಸಬೇಕಾದಾಗ ಅಥವಾ ಬಾಹ್ಯ ಪರಿಕರಗಳೊಂದಿಗೆ (external tools) ಸಂವಹನ ನಡೆಸಬೇಕಾದಾಗ.

How to control costs

adaptive thinking ಅನ್ನು ಅಸಕ್ರಿಯಗೊಳಿಸಲು ಮಾಡೆಲ್ ಒಂದು ಪ್ಯಾರಾಮೀಟರ್ ಅನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುತ್ತದೆ:

{
  "thinking": {"type": "disabled"}
}

Opus 5 ಗೆ ಈ ಸೆಟ್ಟಿಂಗ್ ಅನ್ನು ಅನ್ವಯಿಸುವುದರಿಂದ, ನಾವು ಪರೀಕ್ಷಿಸಿದ ಸರಳ ಕೆಲಸಗಳಲ್ಲಿ ಫಲಿತಾಂಶದ ನಿಖರತೆ ಬದಲಾಗದೆ, ಪ್ರತಿ ಕಾರ್ಯದ ವೆಚ್ಚವು Opus 4.8 ವಿಧಿಸುವಷ್ಟಕ್ಕೆ ಇಳಿಯುತ್ತದೆ.

When to disable

  • ಪಠ್ಯದಿಂದ ಡೇಟಾವನ್ನು ಹೊರತೆಗೆಯುವುದು (Extraction of data from text)
  • ಫಾರ್ಮ್ಯಾಟಿಂಗ್ ಕಾರ್ಯಾಚರಣೆಗಳು (ಉದಾಹರಣೆಗೆ, JSON ಪರಿವರ್ತನೆ)
  • ಉತ್ತರವು ನೇರ ಹುಡುಕಾಟ ಅಥವಾ ಸರಳ ಲೆಕ್ಕಾಚಾರವಾಗಿರುವ ಏಕ-ಹಂತದ ಕರೆಗಳು (Single-step calls)

ಈ ಸಂದರ್ಭಗಳಲ್ಲಿ 'thinking' ಅನ್ನು ಅಸಕ್ರಿಯಗೊಳಿಸುವುದರಿಂದ ಗುಪ್ತ ಟೋಕನ್ ತೆರಿಗೆಯನ್ನು ತಪ್ಪಿಸಬಹುದು ಮತ್ತು ಬಿಲ್‌ಗಳನ್ನು ಮುನ್ಸೂಚನೆಗೆ ಅನುಗುಣವಾಗಿ ಇರಿಸಬಹುದು.

When to keep it on

  • ಆಳವಾದ ತಾರ್ಕಿಕ ಸರಪಳಿಗಳು ಅಥವಾ ಸೂಕ್ಷ್ಮ ತರ್ಕದ ಅಗತ್ಯವಿರುವ ಕಾರ್ಯಗಳು
  • ಬಾಹ್ಯ ಪರಿಕರಗಳನ್ನು ಪದೇ ಪದೇ ಬಳಸುವ Agent workflows

ಪರಿಕರಗಳ ಬಳಕೆಯಿರುವ ಸಂದರ್ಭಗಳಲ್ಲಿ ವೆಚ್ಚದ ಅಂತರವು ಸುಮಾರು 33% ಕ್ಕೆ ಇಳಿಯುತ್ತದೆ ಏಕೆಂದರೆ ಮಾಡೆಲ್ ಪರಿಕರ ಕರೆಗಳ ಮೂಲಕ ಕಾರ್ಯನಿರ್ವಹಿಸುವಾಗ ಆಂತರಿಕ ತರ್ಕಕ್ಕಾಗಿ ಕಡಿಮೆ ಸಮಯವನ್ನು ವ್ಯಯಿಸುತ್ತದೆ.

Other notable differences

  • Context window: Opus 5 ಒಂದು ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳವರೆಗೆ ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳಬಲ್ಲದು, ಇದನ್ನು ನಾವು ಟೋಕನ್ 969,950 ರಲ್ಲಿ ಇರಿಸಲಾದ ಟಾರ್ಗೆಟ್ ಸ್ಟ್ರಿಂಗ್ ಅನ್ನು ಹಿಂಪಡೆಯುವ ಮೂಲಕ ಪರಿಶೀಲಿಸಿದ್ದೇವೆ.
  • Cache floor: ಕನಿಷ್ಠ ಕ್ಯಾಶ್ ಗಾತ್ರವು 512 ಟೋಕನ್‌ಗಳಿಗೆ ಇಳಿಕೆಯಾಗಿದೆ, ಇದು Opus 4.8 ರ ಅರ್ಧದಷ್ಟು ಮತ್ತು ಮರು-ಟೋಕನೈಸೇಶನ್ ಇಲ್ಲದೆ ಮಾಡೆಲ್ ಎಷ್ಟು ಹಿಂದಿನ ಸಂಭಾಷಣೆಯನ್ನು ಮರುಬಳಕೆ ಮಾಡಬಹುದು ಎಂಬುದರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತದೆ.

What to watch next

ಡೆವಲಪರ್‌ಗಳು “reasoning tokens” ಅಥವಾ adaptive thinking ಸಕ್ರಿಯವಾಗಿದೆ ಎಂದು ಸೂಚಿಸುವ ಅಂತಹ ಇತರ ಅಂಶಗಳ ಬಳಕೆಯ ವರದಿಗಳನ್ನು ಗಮನಿಸಬೇಕು. ಹೆಚ್ಚು ಅಪ್ಲಿಕೇಶನ್‌ಗಳು ಏಜೆಂಟ್-ಶೈಲಿಯ ಕಾರ್ಯಾಚರಣೆಗಳಿಗಾಗಿ Claude ಅನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಿದ್ದಂತೆ, ವೆಚ್ಚ ಮತ್ತು ಗುಣಮಟ್ಟದ ನಡುವಿನ ಸಮತೋಲನವು ಪ್ರಮುಖ ನಿರ್ಧಾರವಾಗುತ್ತದೆ. ಭವಿಷ್ಯದ ಅಪ್‌ಡೇಟ್‌ಗಳು ಬಳಕೆದಾರರಿಗೆ 'ಆಲ್-ಆರ್-ನಥಿಂಗ್' ಸ್ವಿಚ್ ಬದಲಿಗೆ ತರ್ಕದ ಆಳವನ್ನು (depth of reasoning) ಹೊಂದಿಸಲು ಅವಕಾಶ ನೀಡಬಹುದು, ಇದು ವೆಚ್ಚದ ಏರಿಳಿತವನ್ನು ಸರಳಗೊಳಿಸಬಹುದು.

Takeaway: Opus 5 ರ ಡಿಫಾಲ್ಟ್ adaptive thinking ಸುಲಭವಾದ ಕಾರ್ಯಗಳಲ್ಲಿ ಟೋಕನ್ ಬಳಕೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ. Opus 4.8 ರ ವೆಚ್ಚಕ್ಕೆ ಹೊಂದಿಕೆಯಾಗಲು ಮೇಲೆ ತಿಳಿಸಿದ ಸರಳ ಸೆಟ್ಟಿಂಗ್‌ನೊಂದಿಗೆ ಇದನ್ನು ಅಸಕ್ರಿಯಗೊಳಿಸಿ ಮತ್ತು ಹೆಚ್ಚಿನ ತರ್ಕವು ಹೆಚ್ಚಿನ ವೆಚ್ಚವನ್ನು ಸಮರ್ಥಿಸುತ್ತದೆ ಎಂದು ಅನಿಸಿದಾಗ ಮಾತ್ರ ಇದನ್ನು ಸಕ್ರಿಯಗೊಳಿಸಿ.