LLM ಮೂಲಸೌಕರ್ಯದ (infrastructure) ಬಿಲ್‌ಗಳು ಎಂದಿಗೂ ಇದ್ದಕ್ಕಿದ್ದಂತೆ ಆಘಾತವನ್ನು ತರುವುದಿಲ್ಲ. ಅವು ಹಂತ ಹಂತವಾಗಿ ಹೆಚ್ಚಾಗುತ್ತಾ ಹೋಗುತ್ತವೆ—ಪ್ರತಿ ಸಾವಿರ ವಿನಂತಿಗಳಿಗೆ (requests) ಕೆಲವು ಹೆಚ್ಚುವರಿ ಡಾಲರ್‌ಗಳು, ಔಟ್‌ಪುಟ್-ಟೋಕನ್ ದರಗಳಲ್ಲಿ ಸಣ್ಣ ಏರಿಕೆ, ಅಥವಾ ದೀರ್ಘ ಸಂಭಾಷಣೆಗಳ ವೆಚ್ಚವನ್ನು ಮೌನವಾಗಿ ಹೆಚ್ಚಿಸುವ ಕಾನ್ಟೆಕ್ಸ್ಟ್-ವಿಂಡೋ (context-window) ಹೊಂದಾಣಿಕೆಗಳು. ಈ ಬದಲಾವಣೆ ನಿಜವಾಗುತ್ತದೆ ಎನ್ನುವಷ್ಟರಲ್ಲಿ, ನೀವು ಈಗ ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲದ ಅಂಕಿಅಂಶಗಳ ಆಧಾರದ ಮೇಲೆ ವರ್ಕ್‌ಫ್ಲೋಗಳು, ಗ್ರಾಹಕರ ಬದ್ಧತೆಗಳು ಮತ್ತು ಬಜೆಟ್ ಮುನ್ಸೂಚನೆಗಳನ್ನು ಈಗಾಗಲೇ ನಿರ್ಮಿಸಿರುತ್ತೀರಿ.

ಅದಕ್ಕಾಗಿಯೇ Mancer 2, Novita, ಮತ್ತು StreamLake ನಿಂದ ಬಂದಿರುವ ಇತ್ತೀಚಿನ ಬೆಲೆ ಪರಿಷ್ಕರಣೆಗಳು ಮುಂದಿನ ತ್ರೈಮಾಸಿಕಕ್ಕಿಂತ ಈಗಲೇ ನಿಮ್ಮ ಗಮನ ಸೆಳೆಯಬೇಕಿದೆ. ಈ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ಯಾವುದೂ ಇದ್ದಕ್ಕಿದ್ದಂತೆ ಹತ್ತು ಪಟ್ಟು ಬೆಲೆ ಏರಿಕೆಯಾಗಿ ಸುದ್ದಿಯಾಗಿಲ್ಲ, ಆದರೆ ವಿವಿಧ ಪೂರೈಕೆದಾರರ (providers) ನಡುವಿನ ಈ ಸಣ್ಣ ಬದಲಾವಣೆಗಳು ವೇಗವಾಗಿ ಸಂಯೋಜಿತವಾಗಿ (compound) ದೊಡ್ಡ ಮಟ್ಟದ ಪರಿಣಾಮ ಬೀರುತ್ತವೆ. ನೀವು ಪ್ರೊಡಕ್ಷನ್ ವರ್ಕ್‌ಲೋಡ್‌ಗಳನ್ನು ನಡೆಸುತ್ತಿದ್ದರೆ, ನಿಯಮಿತವಾಗಿ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡುತ್ತಿದ್ದರೆ ಅಥವಾ ಹಲವಾರು APIಗಳ ಮೂಲಕ ಟ್ರಾಫಿಕ್ ಅನ್ನು ರೌಟ್ ಮಾಡುತ್ತಿದ್ದರೆ, ಸಣ್ಣ ದರ ಹೊಂದಾಣಿಕೆಯೂ ಸಹ ನಿಮ್ಮ ಯೂನಿಟ್ ಎಕನಾಮಿಕ್ಸ್ ಅನ್ನು ಬದಲಾಯಿಸಬಹುದು.

ದೊಡ್ಡ ಮಟ್ಟದಲ್ಲಿ ಸಣ್ಣ ಬೆಲೆ ಬದಲಾವಣೆಗಳು ಏಕೆ ಮುಖ್ಯವಾಗುತ್ತವೆ

ಹೆಚ್ಚಿನ ಇಂಜಿನಿಯರಿಂಗ್ ತಂಡಗಳು ಗುಣಮಟ್ಟದ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳು ಮತ್ತು ವಿಳಂಬದ (latency) ಆಧಾರದ ಮೇಲೆ ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ API ಅನ್ನು ಆಯ್ಕೆ ಮಾಡುತ್ತವೆ. ವೆಚ್ಚವು ಚರ್ಚೆಯ ವಿಷಯವಾಗಿದ್ದರೂ, ಅದನ್ನು ಹೆಚ್ಚಾಗಿ ಸ್ಥಿರವಾದ ಒಂದು ಸಣ್ಣ ಅಂಶವಾಗಿ (footnote) ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ. ವಾಸ್ತವದಲ್ಲಿ, ಬೆಲೆ ಎಂಬುದು ನಿಮ್ಮ ಸ್ಟ್ಯಾಕ್‌ನಲ್ಲಿನ ಅತ್ಯಂತ ಕ್ರಿಯಾತ್ಮಕ ವೇರಿಯೇಬಲ್‌ಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ. ಟೋಕನ್ ಆಧಾರಿತ ಬಿಲ್ಲಿಂಗ್ ಎಂದರೆ ನಿಮ್ಮ ವೆಚ್ಚಗಳು ಬಳಕೆಯೊಂದಿಗೆ ನೇರವಾಗಿ ಹೆಚ್ಚಾಗುತ್ತವೆ, ಆದರೆ ಅವು ನಿಮ್ಮ ವರ್ತನೆಯೊಂದಿಗೆ (behavior) ಕೂಡ ಹೆಚ್ಚಾಗುತ್ತವೆ. ದೀರ್ಘವಾದ ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್‌ಗಳು, ಭಾರೀ JSON ಔಟ್‌ಪುಟ್ ಸ್ಕೀಮಾಗಳು ಮತ್ತು ಚಾಟ್ ಇತಿಹಾಸದ ಉಳಿಕೆ (retention) ಇವೆಲ್ಲವೂ ಟೋಕನ್ ಸಂಖ್ಯೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ. ಪೂರೈಕೆದಾರರು ತಮ್ಮ ದರ ಪಟ್ಟಿಯನ್ನು (rate card) ಬದಲಾಯಿಸಿದಾಗ, ಅದರ ಪರಿಣಾಮವು ಕೇವಲ ನಿಗದಿತ ಶುಲ್ಕದ ಏರಿಕೆಯಾಗಿರುವುದಿಲ್ಲ. ಅದು ಪ್ರತಿಯೊಂದು ಭವಿಷ್ಯದ ಸಂವಹನದ ಮೇಲೆ ಗುಣಕವಾಗಿ (multiplier) ಕೆಲಸ ಮಾಡುತ್ತದೆ.

Mancer 2, Novita, ಮತ್ತು StreamLake ಪ್ರತಿಯೊಂದೂ ಇನ್ಫರೆನ್ಸ್ ಮಾರುಕಟ್ಟೆಯಲ್ಲಿ ವಿಭಿನ್ನ ಸ್ಥಾನಗಳನ್ನು ಹೊಂದಿವೆ. ಇತ್ತೀಚಿನ ಈ ಮೂರರ ಬದಲಾವಣೆಗಳು ಎಂದರೆ, ಒಮ್ಮೆ API ವೆಚ್ಚಕ್ಕಾಗಿ ಸರಳ ಸ್ಪ್ರೆಡ್‌ಶೀಟ್ ಅನ್ನು ಅವಲಂಬಿಸಿದ್ದ ಡೆವಲಪರ್‌ಗಳು ಈಗ ಹೆಚ್ಚು ಸಕ್ರಿಯವಾದ ಮೇಲ್ವಿಚಾರಣಾ ತಂತ್ರವನ್ನು (monitoring strategy) ಹೊಂದಿರಬೇಕಾಗುತ್ತದೆ ಎಂದರ್ಥ. ನೀವು ಈ ಅಪ್‌ಡೇಟ್‌ಗಳನ್ನು ಕೇವಲ ಸಣ್ಣ ಆಡಳಿತಾತ್ಮಕ ಟಿಪ್ಪಿಕೆಗಳೆಂದು ಪರಿಗಣಿಸಿದರೆ, ನಿಮ್ಮ ಮಾಸಿಕ ಇನ್‌ವಾಯ್ಸ್ ಬಂದ ನಂತರವಷ್ಟೇ ಅದರ ಪರಿಣಾಮವನ್ನು ಅರಿಯುವ ಅಪಾಯವಿರುತ್ತದೆ.

ಏನಾಯಿತು ಮತ್ತು ಎಲ್ಲಿ ನೋಡಬೇಕು

Mancer 2 ಅಪ್‌ಡೇಟ್‌ಗಳು

Mancer 2 ತನ್ನ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗಾಗಿ ನೀವು ಬಜೆಟ್ ಮಾಡುವ ರೀತಿಯನ್ನು ಪರಿಣಾಮ ಬೀರುವ ಬೆಲೆ ಬದಲಾವಣೆಗಳನ್ನು ಜಾರಿಗೆ ತಂದಿದೆ. ನೀವು ಪ್ರಸ್ತುತ ಪ್ರೊಡಕ್ಷನ್ ಟ್ರಾಫಿಕ್‌ಗಾಗಿ Mancer 2 ಅನ್ನು ಬಳಸುತ್ತಿದ್ದರೆ, ಮೊದಲು ಪರಿಶೀಲಿಸಬೇಕಾದ ವಿಷಯವೆಂದರೆ ಈ ಅಪ್‌ಡೇಟ್ ಇನ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳ ಮೇಲೆ, ಔಟ್‌ಪುಟ್ ಟೋಕನ್‌ಗಳ ಮೇಲೆ ಅಥವಾ ಎರಡರ ಮೇಲೂ ಪರಿಣಾಮ ಬೀರುತ್ತಿದೆಯೇ ಎಂಬುದು. ಕೆಲವು ಪೂರೈಕೆದಾರರು ಕೇವಲ ಜನರೇಷನ್-ಸೈಡ್ (generation-side) ಬೆಲೆಯನ್ನು ಹೊಂದಾಣಿಕೆ ಮಾಡುತ್ತಾರೆ, ಇದು ದೀರ್ಘವಾದ, ರಚನಾತ್ಮಕ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ನೀಡುವ ಅಪ್ಲಿಕೇಶನ್‌ಗಳಿಗೆ ನಷ್ಟವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ. ಇತರೆ ಪೂರೈಕೆದಾರರು ಪ್ರಾಂಪ್ಟ್ ಸೈಡ್‌ನ ವೆಚ್ಚವನ್ನು ಹೆಚ್ಚಿಸುತ್ತಾರೆ, ಇದು ವಿವರವಾದ ಫ್ಯೂ-ಶಾಟ್ ಪ್ರಾಂಪ್ಟಿಂಗ್ (few-shot prompting) ಅಥವಾ ದೊಡ್ಡ ಕಾನ್ಟೆಕ್ಸ್ಟ್ ಇಂಜೆಕ್ಷನ್‌ಗಳಿಗೆ ದಂಡದಂತೆ ಪರಿಣಮಿಸುತ್ತದೆ. ನಿರ್ದಿಷ್ಟ ವಿವರಣೆಯನ್ನು ಓದದೆ, ಇದರ ಪರಿಣಾಮವು ಎಲ್ಲೆಡೆ ಸಮಾನವಾಗಿದೆ ಎಂದು ನೀವು ಊಹಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ನಿಮ್ಮ ಯಾವ ಬಳಕೆ ಪ್ರಕರಣಗಳು (use cases) ಹೆಚ್ಚು ದುಬಾರಿಯಾಗುತ್ತಿವೆ ಎಂಬುದನ್ನು ನೋಡಲು ಹೊಸ ದರ ಪಟ್ಟಿಯೊಂದಿಗೆ ನಿಮ್ಮ ಸ್ವಂತ ಲಾಗಿಂಗ್ ಡೇಟಾವನ್ನು ಪರಿಶೀಲಿಸಿ.

Novita ಬೆಲೆ ಬದಲಾವಣೆಗಳು

Novita ಕೂಡ ತನ್ನ ದರಗಳನ್ನು ಬದಲಾಯಿಸಿದೆ. ದೊಡ್ಡ ಕ್ಲೌಡ್ APIಗಳಿಗೆ ವೆಚ್ಚ-ಪರಿಣಾಮಕಾರಿ ಪರ್ಯಾಯವಾಗಿ Novita ಅನ್ನು ಬಳಸುವ ತಂಡಗಳಿಗೆ, ವಾರ್ಷಿಕ ಬಳಕೆ ಮಿಲಿಯನ್ ದಾಟಿದಾಗ ಪ್ರತಿ ಸಾವಿರ ಟೋಕನ್‌ಗಳಿಗೆ ಒಂದು ಸಣ್ಣ ಪೈಸೆ ಬದಲಾವಣೆಯೂ ಸಹ ಮುಖ್ಯವಾಗುತ್ತದೆ. ಮ್ಯಾನೇಜ್ಡ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಪ್ರೀಮಿಯಂಗಳ ಹೊರೆಯಿಲ್ಲದೆ ಹೆಚ್ಚಿನ ಥ್ರೂಪುಟ್ (throughput) ಬೇಕಾದ ಪ್ರಾಜೆಕ್ಟ್‌ಗಳಿಗೆ Novita ನ ಮೂಲಸೌಕರ್ಯವು ಹೆಚ್ಚಾಗಿ ಆಕರ್ಷಕವಾಗಿರುತ್ತದೆ. ಆ ಲೆಕ್ಕಾಚಾರ ಬದಲಾದಾಗ, ನೀವು ನಿಮ್ಮ ಪ್ರತಿ-ವಿನಂತಿ ವೆಚ್ಚದ ಮಾದರಿಗಳನ್ನು (per-request cost models) ಮರುಪರಿಶೀಲಿಸಬೇಕಾಗುತ್ತದೆ. ವಿಶೇಷವಾಗಿ Novita ಹಂತ ಹಂತದ ಬೆಲೆಗಳನ್ನು (tiered pricing) ಪರಿಚಯಿಸಿದೆಯೇ, ಬಲ್ಕ್-ಇನ್ಫರೆನ್ಸ್ ಡಿಸ್ಕೌಂಟ್‌ಗಳನ್ನು ಹೊಂದಾಣಿಕೆ ಮಾಡಲಾಗಿದೆಯೇ ಅಥವಾ ಉಚಿತ-ಹಂತದ (free-tier) ಮಿತಿಗಳನ್ನು ಮರುರಚಿಸಲಾಗಿದೆಯೇ ಎಂಬುದನ್ನು ಗಮನಿಸಿ. ಈ ಬದಲಾವಣೆಗಳಲ್ಲಿ ಯಾವುದಾದರೂ ಒಂದು ನಿಮ್ಮ ವರ್ಕ್‌ಲೋಡ್ ಅನ್ನು ಎಚ್ಚರಿಕೆಯಿಲ್ಲದೆ "ಅತಿ ಅಗ್ಗದ ಆಯ್ಕೆ"ಯಿಂದ "ಮಧ್ಯಮ ಆಯ್ಕೆ"ಯಾಗಿ ಬದಲಾಯಿಸಬಹುದು.

StreamLake ಹೊಂದಾಣಿಕೆಗಳು

StreamLake ತನ್ನದೇ ಆದ ಹೊಂದಾಣಿಕೆಗಳೊಂದಿಗೆ ಈ ತ್ರಿಮೂರ್ತಿಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸುತ್ತದೆ. StreamLake ನಿಮ್ಮ ಮೀಡಿಯಾ-ಸಮೃದ್ಧ ಅಥವಾ ದೀರ್ಘ-ಕಾನ್ಟೆಕ್ಸ್ಟ್ ವರ್ಕ್‌ಲೋಡ್‌ಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತಿದ್ದರೆ, ಹೊಸ ದರಗಳನ್ನು ನಿಮ್ಮ ಹಿಂದಿನ ಸರಾಸರಿ ಸೆಷನ್ ಉದ್ದದೊಂದಿಗೆ ಹೋಲಿಸಿ ನೋಡಿ. ದೀರ್ಘ ಕಾನ್ಟೆಕ್ಸ್ಟ್‌ಗಳಲ್ಲಿ ಪರಿಣತಿ ಹೊಂದಿರುವ ಪೂರೈಕೆದಾರರು ಕೆಲವೊಮ್ಮೆ ವಿಸ್ತೃತ ಸೀಕ್ವೆನ್ಸ್‌ಗಳಿಗಾಗಿ (extended sequences) ಶುಲ್ಕ ವಿಧಿಸುವ ವಿಧಾನವನ್ನು ಬದಲಾಯಿಸುತ್ತಾರೆ, ಇದರರ್ಥ ನಿಮ್ಮ ಅತ್ಯಂತ ದುಬಾರಿ ವಿನಂತಿಗಳು ಹೆಚ್ಚು ಬಾಧಿತವಾಗಬಹುದು. ಸುದ್ದಿಯಲ್ಲಿ ಬರುವ ಶೇಕಡಾವಾರು ಬದಲಾವಣೆಯು ನಿಮ್ಮ ನೈಜ ವೆಚ್ಚದ ಪರಿಣಾಮವನ್ನು ತೋರಿಸುತ್ತದೆ ಎಂದು ಭಾವಿಸಬೇಡಿ. ಕಳೆದ ತಿಂಗಳ ನಿಮ್ಮ ವಿನಂತಿಗಳ ಒಂದು ಮಾದರಿಯನ್ನು (representative sample) ತೆಗೆದುಕೊಂಡು ಹೊಸ ಸ್ಕೀಮಾದ ಅಡಿಯಲ್ಲಿ ಅವುಗಳನ್ನು ಮರುಲೆಕ್ಕಹಾಕಿ.

ನೀವು Dev.to ನಲ್ಲಿರುವ Narev ಅವರ ವಿವರವಾದ ವಿಶ್ಲೇಷಣೆಯಲ್ಲಿ ಸಂಪೂರ್ಣ ದರ ಪಟ್ಟಿ ಹೋಲಿಕೆ ಮತ್ತು ಅಪ್‌ಡೇಟ್ ವೇಳಾಪಟ್ಟಿಯನ್ನು ನೋಡಬಹುದು. ಅದನ್ನು ನಿಮ್ಮ ಸ್ವಂತ ಲೆಕ್ಕಾಚಾರಕ್ಕೆ ಪರ್ಯಾಯವಾಗಿ ಬಳಸುವ ಬದಲು, ಒಂದು ದೃಢೀಕರಣಕ್ಕಾಗಿ (cross-reference) ಬಳಸಿ.

ಗೊಂದಲವಿಲ್ಲದೆ ಬೆಲೆ ಅಪ್‌ಡೇಟ್ ಅನ್ನು ಹೇಗೆ ಓದುವುದು

ಒಂದು API ಪೂರೈಕೆದಾರರು ಹೊಸ ದರಗಳನ್ನು ಘೋಷಿಸಿದಾಗ, ಮಾರ್ಕೆಟಿಂಗ್ ಭಾಷೆಯು ಸಾಮಾನ್ಯವಾಗಿ ಸುಲಭ ಲಭ್ಯತೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಗೆ (performance) ಒತ್ತು ನೀಡುತ್ತದೆ. ಅದನ್ನು ನಿರ್ಲಕ್ಷಿಸಿ. ಮೂರು ನಿರ್ದಿಷ್ಟ ಪ್ರಶ್ನೆಗಳ ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸಿ.

ಮೊದಲನೆಯದಾಗಿ, ಈ ಅಪ್‌ಡೇಟ್ ಇನ್‌ಪುಟ್ ಬೆಲೆ, ಔಟ್‌ಪುಟ್ ಬೆಲೆ ಅಥವಾ ಎಂಬೆಡಿಂಗ್ ಅಥವಾ ಫೈನ್-ಟ್ಯೂನಿಂಗ್‌ನಂತಹ ಪೂರಕ ಶುಲ್ಕಗಳನ್ನು ಬದಲಾಯಿಸುತ್ತದೆಯೇ? ನಿಮ್ಮ ಸ್ವಂತ ಟೆಲಿಮೆಟ್ರಿಯನ್ನು ಅದೇ ಅಂಶಗಳ ಆಧಾರದ ಮೇಲೆ ವಿಂಗಡಿಸಿ. ನಿಮ್ಮ ಒಟ್ಟು ವೆಚ್ಚದಲ್ಲಿ ಶೇಕಡಾ 80 ರಷ್ಟು ಔಟ್‌ಪುಟ್ ಜನರೇಷನ್ ಮೇಲೆ ಇದ್ದರೆ ಮತ್ತು ಪ್ರೊವೈಡರ್ ಕೇವಲ ಇನ್‌ಪುಟ್ ವೆಚ್ಚವನ್ನು ಹೆಚ್ಚಿಸಿದ್ದರೆ, ನಿಮಗೆ ಹೆಚ್ಚಿನ ಪರಿಣಾಮ ಬೀರುವುದಿಲ್ಲ. ನೀವು ದೊಡ್ಡ ಇನ್‌ಪುಟ್‌ಗಳಿಂದ ಸಣ್ಣ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ನೀಡುವ ಸಾರಾಂಶ ಪೈಪ್‌ಲೈನ್‌ಗಳನ್ನು (summarization pipelines) ಬಳಸುತ್ತಿದ್ದರೆ, ಇದರ ವಿರುದ್ಧವೇ ಸತ್ಯವಾಗುತ್ತದೆ.

ಎರಡನೆಯದಾಗಿ, ರೇಟ್ ಲಿಮಿಟ್‌ಗಳು ಅಥವಾ ಥ್ರೂಪುಟ್ ಹಂತಗಳು ಬದಲಾಗಿವೆಯೇ? ಕೆಲವೊಮ್ಮೆ ಪ್ರೊವೈಡರ್ ಪ್ರತಿ ಟೋಕನ್‌ಗೆ ಬೆಲೆಯನ್ನು ಸ್ಥಿರವಾಗಿಡಬಹುದು, ಆದರೆ ಉಚಿತ ಕನ್ಕರನ್ಸಿ ಹಂತವನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದು ಅಥವಾ ಹೊಸ ಕ್ಯೂಯಿಂಗ್ ಶುಲ್ಕಗಳನ್ನು ಪರಿಚಯಿಸಬಹುದು. ಇದು ನೇರವಾಗಿ ಲ್ಯಾಟೆನ್ಸಿ ಮತ್ತು ಮೂಲಸೌಕರ್ಯ ವೆಚ್ಚಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ.

ಮೂರನೆಯದಾಗಿ, ಹೊಸ ವೆಚ್ಚ ನಿಯಂತ್ರಣ ಸಾಧನಗಳಿವೆಯೇ? ನೀವು ನಿಮ್ಮ ಕರೆಗಳನ್ನು (calls) ಮರುರಚಿಸಿದರೆ, ಬೆಲೆ ಏರಿಕೆಯ ಜೊತೆಗೆ ಪ್ರಾಂಪ್ಟ್-ಕ್ಯಾಶಿಂಗ್ ರಿಯಾಯಿತಿ ಅಥವಾ ಬ್ಯಾಚ್-ಇನ್ಫರೆನ್ಸ್ ರಿಯಾಯಿತಿಯು ನಿಮಗೆ ಸಹಾಯ ಮಾಡಬಹುದು. ಕೇವಲ ಮುಖ್ಯವಾದ ಸಂಖ್ಯೆಯು ಸಂಪೂರ್ಣ ಚಿತ್ರಣವನ್ನು ನೀಡುವುದಿಲ್ಲ.

ವೆಚ್ಚಗಳು ಬದಲಾಗುತ್ತಿರುವಾಗ ನಿಮ್ಮ ಸ್ಟ್ಯಾಕ್ ಅನ್ನು ಮುನ್ಸೂಚನೆಗೆ ಒಳಪಡುವಂತೆ ಇಟ್ಟುಕೊಳ್ಳುವುದು

ನೀವು ಪ್ರೊವೈಡರ್ ಬೆಲೆಗಳನ್ನು ಸ್ಥಗಿತಗೊಳಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ, ಆದರೆ ಪ್ರತಿ ತ್ರೈಮಾಸಿಕದಲ್ಲೂ ಕೋಡ್ ಅನ್ನು ಮರುಬರೆಯುವ ಅಗತ್ಯವಿಲ್ಲದಂತೆ ಬದಲಾವಣೆಗಳನ್ನು ತಡೆದುಕೊಳ್ಳುವ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನೀವು ನಿರ್ಮಿಸಬಹುದು.

ರಿಕ್ವೆಸ್ಟ್ ರೂಟಿಂಗ್‌ನೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ. ನಿಮ್ಮ ಆರ್ಕಿಟೆಕ್ಚರ್‌ನಲ್ಲಿ Mancer 2, Novita ಮತ್ತು StreamLake ಪ್ರತಿಯೊಂದೂ ವಿಭಿನ್ನ ವರ್ಕ್‌ಲೋಡ್‌ಗಳಿಗೆ ಸೇವೆ ಸಲ್ಲಿಸುತ್ತಿದ್ದರೆ, ನೀವು ಟ್ರಾಫಿಕ್ ಅನ್ನು ವೇಗವಾಗಿ ಬದಲಾಯಿಸಲು ವೆಚ್ಚ-ಕಾರ್ಯಕ್ಷಮತೆಯ ಸಮತೋಲನವನ್ನು (cost-performance trade-off) ಸಂಕೇತೀಕರಿಸಿ. ಆರು ತಿಂಗಳ ಹಿಂದೆ ಶೇಕಡಾ 20 ರಷ್ಟು ಹೆಚ್ಚು ವೆಚ್ಚವಾಗುತ್ತಿದ್ದ ಫಾಲ್‌ಬ್ಯಾಕ್ ಮಾಡೆಲ್, ಇತ್ತೀಚಿನ ಅಪ್‌ಡೇಟ್‌ಗಳ ನಂತರ ಈಗ ಅಗ್ಗದ ಆಯ್ಕೆಯಾಗಿರಬಹುದು. ಲೈವ್ ಬೆಲೆಯನ್ನು ಪರಿಗಣಿಸುವ ರೂಟರ್ ಇಲ್ಲದಿದ್ದರೆ, ನೀವು ಹಣವನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತೀರಿ.

ಮುಂದೆ, ನಿಮ್ಮ ಕಾನ್ಟೆಕ್ಸ್ ಅನ್ನು ಸಂಕುಚಿತಗೊಳಿಸಿ (compress). ಅಭ್ಯಾಸದಂತೆ ಪ್ರತಿ ರಿಕ್ವೆಸ್ಟ್‌ಗೆ ಸಾವಿರಾರು ಟೋಕನ್‌ಗಳನ್ನು ಕಳುಹಿಸುತ್ತಿದ್ದಾಗ ಬೆಲೆ ಬದಲಾವಣೆಗಳು ಹೆಚ್ಚು ನೋವು ನೀಡುತ್ತವೆ. ಅನಗತ್ಯ ಸಿಸ್ಟಮ್ ಸೂಚನೆಗಳು, ಅತಿಯಾದ ವಿವರಣೆಯ ಸ್ಕೀಮಾಗಳು ಮತ್ತು ಸಂಕುಚಿತಗೊಳಿಸದ ಚಾಟ್ ಇತಿಹಾಸಕ್ಕಾಗಿ ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಆಡಿಟ್ ಮಾಡಿ. ಇನ್‌ಪುಟ್ ಉದ್ದವನ್ನು ಶೇಕಡಾ 30 ರಷ್ಟು ಕಡಿಮೆ ಮಾಡುವುದು ಶೇಕಡಾ 30 ರಷ್ಟು ಬೆಲೆ ಏರಿಕೆಯನ್ನು ಸಮತೋಲನಗೊಳಿಸುತ್ತದೆ. ಇದು ಪ್ರೊವೈಡರ್‌ಗಳನ್ನು ಬದಲಾಯಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ವೇಗವಾಗಿರುತ್ತದೆ.

ಅತಿ ಹೆಚ್ಚು ಕ್ಯಾಶ್ (Cache) ಬಳಸಿ. ಕ್ಯಾಶ್ ಲೇಯರ್ ಅನ್ನು ನಿರ್ವಹಿಸುವುದಕ್ಕಿಂತ ಒಂದೇ ರೀತಿಯ ಅಥವಾ ಬಹುತೇಕ ಒಂದೇ ರೀತಿಯ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಮರುಕಳುಹಿಸುವುದು ಸುಲಭ ಎಂಬ ಕಾರಣಕ್ಕೆ ಅನೇಕ ತಂಡಗಳು ಹಾಗೆಯೇ ಮಾಡುತ್ತವೆ. ಬೆಲೆ ಬದಲಾದ ತಕ್ಷಣ, ಆ ಸೋಮಾರಿತನವು ದುಬಾರಿಯಾಗುತ್ತದೆ. ನಿಮ್ಮ ಬಳಕೆ ಪ್ರಕರಣವು (use case) ಅನುಮತಿಸಿದರೆ, ಇತ್ತೀಚಿನ ಕಂಪ್ಲೀಷನ್‌ಗಳು ಮತ್ತು ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ಸಂಗ್ರಹಿಸಿ, ವಿಶೇಷವಾಗಿ StreamLake ಅಥವಾ Novita ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳ ಮೂಲಕ ಚಲಿಸುವ ವಿಶ್ಲೇಷಣಾತ್ಮಕ ಅಥವಾ ಪುನರಾವರ್ತಿತ ವರ್ಕ್‌ಲೋಡ್‌ಗಳಿಗೆ ಇದು ಅನ್ವಯಿಸುತ್ತದೆ.

ಕೊನೆಯದಾಗಿ, API ಬಿಲ್ ಪರಿಶೀಲನೆಯ ಜವಾಬ್ದಾರಿಯನ್ನು ಒಬ್ಬರಿಗೆ ವಹಿಸಿ. ಇದು ಪೂರ್ಣಾವಧಿ ಕೆಲಸವಾಗಿರಬೇಕಿಲ್ಲ, ಆದರೆ ಇದು ಒಂದು ಪುನರಾವರ್ತಿತ ಕ್ಯಾಲೆಂಡರ್ ಕಾರ್ಯಕ್ರಮವಾಗಿರಬೇಕು. ತಿಂಗಳಿಗೊಮ್ಮೆ, ಅಂದಾಜು ವೆಚ್ಚ ಮತ್ತು ವಾಸ್ತವ ವೆಚ್ಚವನ್ನು ಹೊಂದಾಣಿಕೆ ಮಾಡಿ, ದರ ಕುಸಿದ ಯಾವುದೇ ಪ್ರೊವೈಡರ್ ಅನ್ನು ಗುರುತಿಸಿ ಮತ್ತು ಪರ್ಯಾಯಗಳ ವಿರುದ್ಧ ವೆಚ್ಚದ ಹೋಲಿಕೆಯನ್ನು ಮರುಪರಿಶೀಲಿಸಿ. ಜವಾಬ್ದಾರಿ ಇಲ್ಲದಿದ್ದರೆ, ಬೆಲೆ ಏರಿಳಿತವು ಆರ್ಕಿಟೆಕ್ಚರಲ್ ಸಾಲವಾಗಿ (architectural debt) ಪರಿಣಮಿಸುತ್ತದೆ.

ಬೆಲೆ ನಿರ್ವಹಣೆಯನ್ನು ನಿಮ್ಮ ಪ್ರಕ್ರಿಯೆಯ ಭಾಗವಾಗಿಸಿ

ಮೂಲಸೌಕರ್ಯ ತಂಡಗಳು ಈಗಾಗಲೇ ಸೆಕ್ಯೂರಿಟಿ ಪ್ಯಾಚ್‌ಗಳು ಮತ್ತು ಡಿಪೆಂಡೆನ್ಸಿ ಅಪ್‌ಡೇಟ್‌ಗಳನ್ನು ನಿಗದಿತ ವೇಳಾಪಟ್ಟಿಯಲ್ಲಿ ಪರಿಶೀಲಿಸುತ್ತವೆ. ಬೆಲೆ ನಿರ್ವಹಣೆಯೂ ಅದೇ ಚೆಕ್‌ಲಿಸ್ಟ್‌ನಲ್ಲಿರಬೇಕು. Mancer 2, Novita ಮತ್ತು StreamLake ನಿಂದ ಇತ್ತೀಚಿನ ಹೊಂದಾಣಿಕೆಗಳು ಕೇವಲ ಅನಿರೀಕ್ಷಿತ ಘಟನೆಗಳಲ್ಲ. ಇನ್ಫರೆನ್ಸ್ ಮಾರುಕಟ್ಟೆಯು ಇನ್ನೂ ತನ್ನ ಸಮತೋಲನವನ್ನು ಕಂಡುಕೊಳ್ಳುತ್ತಿದೆ ಎಂಬುದಕ್ಕೆ ಅವು ಸಾಕ್ಷಿಯಾಗಿವೆ. ಹೊಸ ಹಾರ್ಡ್‌ವೇರ್, ಆಪ್ಟಿಮೈಸ್ಡ್ ಇನ್ಫರೆನ್ಸ್ ಎಂಜಿನ್‌ಗಳು ಮತ್ತು ಬದಲಾಗುತ್ತಿರುವ ಬೇಡಿಕೆಯು ಮುಂಬರುವ ದಿನಗಳಲ್ಲಿ ರೇಟ್ ಕಾರ್ಡ್‌ಗಳನ್ನು ಬದಲಾಗುತ್ತಲೇ ಇರಿಸುತ್ತದೆ.

ಇದನ್ನು ಉತ್ತಮವಾಗಿ ನಿರ್ವಹಿಸುವ ತಂಡಗಳು ಪ್ರತಿಯೊಂದು ಬದಲಾವಣೆಯನ್ನು ಮುನ್ಸೂಚಿಸುವುದಿಲ್ಲ. ಅವರು ಕೇವಲ ಸ್ಪಷ್ಟತೆಯನ್ನು (visibility) ಕಾಪಾಡಿಕೊಳ್ಳುತ್ತಾರೆ. ಯಾವ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗೆ ಎಷ್ಟು ವೆಚ್ಚವಾಗುತ್ತದೆ, ಯಾವ ವರ್ಕ್‌ಲೋಡ್‌ಗಳು ಎಲಾಸ್ಟಿಕ್ ಆಗಿವೆ ಮತ್ತು ಲೆಕ್ಕಾಚಾರ ಬದಲಾದಾಗ ಟ್ರಾಫಿಕ್ ಅನ್ನು ಎಲ್ಲಿಗೆ ವರ್ಗಾಯಿಸಬೇಕು ಎಂಬುದು ಅವರಿಗೆ ತಿಳಿದಿರುತ್ತದೆ. ಆ ಶಿಸ್ತು ಅಸ್ತವ್ಯಸ್ತಗೊಳಿಸುವ ಅಪ್‌ಡೇಟ್ ಅನ್ನು ಒಂದು ಸಾಮಾನ್ಯ ಕಾನ್ಫಿಗರೇಶನ್ ಸಣ್ಣ ಬದಲಾವಣೆಯಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ.

ಇದೇ ರೀತಿಯ ಬದಲಾವಣೆಗಳನ್ನು ಎದುರಿಸುತ್ತಿರುವ ಇತರ ಬಿಲ್ಡರ್‌ಗಳೊಂದಿಗೆ ಚರ್ಚಿಸಲು ನೀವು ಬಯಸಿದರೆ, GyaanSetu ಕಲಿಕಾ ಸಮುದಾಯವು ತೆರೆದಿದೆ. ನೀವು ನಮ್ಮನ್ನು ಟೆಲಿಗ್ರಾಮ್‌ನಲ್ಲಿ ಕಾಣಬಹುದು.

ಸಾರಾಂಶ: Mancer 2, Novita ಮತ್ತು StreamLake ಬೆಲೆಗಳು ಬದಲಾಗಿವೆ. ನೆನಪು ಅಥವಾ ಹಳೆಯ ದಾಖಲೆಗಳ ಮೇಲೆ ಅವಲಂಬಿತರಾಗಬೇಡಿ. ನಿಮ್ಮ ಲಾಗ್‌ಗಳನ್ನು (logs) ಪಡೆದುಕೊಳ್ಳಿ, ಅವುಗಳನ್ನು ಹೊಸ ದರಗಳೊಂದಿಗೆ ಹೊಂದಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಪ್ರಸ್ತುತ ರೂಟಿಂಗ್ ಇನ್ನೂ ಆರ್ಥಿಕವಾಗಿ ಲಾಭದಾಯಕವಾಗಿದೆಯೇ ಎಂದು ನಿರ್ಧರಿಸಿ. ಕಳೆದ ತಿಂಗಳು ಅತ್ಯಂತ ಅಗ್ಗದ ಮಾಡೆಲ್ ಇಂದು ಅಗ್ಗದ ಮಾಡೆಲ್ ಆಗಿರುತ್ತದೆ ಎಂಬ ಗ್ಯಾರಂಟಿ ಇಲ್ಲ.