𝗧𝗵𝗲 𝗥𝗲𝗮𝗹 𝗖𝗼𝘀𝘁 𝗼𝗳 𝗔𝗜 𝗔𝗣𝗜𝘀
ವೆಬ್ಸೈಟ್ನಲ್ಲಿ ತೋರಿಸುವ API ಬೆಲೆಯು ನಿಮ್ಮ ನೈಜ ಉತ್ಪಾದನಾ ಬಜೆಟ್ ಅಲ್ಲ.
Pricing ಪುಟಗಳು ಯುನಿಟ್ ದರಗಳನ್ನು ತೋರಿಸುತ್ತವೆ. ಅವು ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್ಗಳಿಗೆ ಅಥವಾ ಪ್ರತಿ ಚಿತ್ರಕ್ಕೆ ತಗಲುವ ವೆಚ್ಚವನ್ನು ತೋರಿಸುತ್ತವೆ. ಈ ಅಂಕಿಅಂಶಗಳು ಉಪಯುಕ್ತವಾಗಿವೆ ಆದರೆ ಅಪೂರ್ಣವಾಗಿವೆ.
ಒಂದು ನೈಜ ಉತ್ಪನ್ನವು ಕೇವಲ ಒಂದು ವಿನಂತಿಗಿಂತ (request) ಹೆಚ್ಚಿನದನ್ನು ಬಳಸುತ್ತದೆ. ನೀವು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಪರಿಗಣಿಸಬೇಕು:
- ಪುನರಾವರ್ತಿತ ಸಂದರ್ಭ (Repeated context)
- ಟೂಲ್ ಫಲಿತಾಂಶಗಳು (Tool results)
- ಕ್ಯಾಶ್ ಬರವಣಿಗೆಗಳು (Cache writes)
- ಮರುಪ್ರಯತ್ನಗಳು (Retries)
- ಡೂಪ್ಲಿಕೇಟ್ ಸಬ್ಮಿಷನ್ಗಳು (Duplicate submissions)
- ವಿಫಲವಾದ ಮೀಡಿಯಾ ಕೆಲಸಗಳು (Failed media jobs)
- ಬಳಕೆದಾರರು ತಿರಸ್ಕರಿಸುವ ಔಟ್ಪುಟ್ಗಳು (Outputs users reject)
ಈ ಅಂಶಗಳು ಲೆಕ್ಕಾಚಾರವನ್ನು ಹೇಗೆ ಬದಲಾಯಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ನೋಡಲು ನಾನು ಮೂರು ಕೆಲಸದ ವಿಧಗಳಿಗಾಗಿ (workloads) ಒಂದು ಬಜೆಟ್ ಮಾಡೆಲ್ ಅನ್ನು ನಿರ್ಮಿಸಿದ್ದೇನೆ.
Standard LLM ಅಪ್ಲಿಕೇಶನ್ಗಳು ಸರಳ ಲೆಕ್ಕಾಚಾರವು 6,000 ವಿನಂತಿಗಳಿಗೆ $81 ಎಂದು ತೋರಿಸಬಹುದು. ಆದರೆ ನೀವು 3% ಮರುಪ್ರಯತ್ನದ ದರ (retry rate) ಮತ್ತು 15% ಯೋಜನಾ ಬಫರ್ ಅನ್ನು ಸೇರಿಸಿದರೆ, ನಿಮ್ಮ ವೆಚ್ಚವು $95.94 ಕ್ಕೆ ತಲುಪುತ್ತದೆ. ನೀವು ವಿಸ್ತರಿಸುತ್ತಿದ್ದಂತೆ (scale) ಈ ವ್ಯತ್ಯಾಸವು ಹೆಚ್ಚಾಗುತ್ತದೆ.
Coding Agent ವರ್ಕ್ಫ್ಲೋಗಳು Coding agent ಗಳನ್ನು ಸಂದೇಶಗಳ ಮೂಲಕ ಅಳೆಯಬೇಡಿ. ಅವುಗಳನ್ನು ಪೂರ್ಣಗೊಂಡ ಕಾರ್ಯದ (completed task) ಮೂಲಕ ಅಳೆಯಿರಿ. ಒಂದು ಕಾರ್ಯವು ಇವುಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು:
- ಸೋರ್ಸ್ ಫೈಲ್ಗಳನ್ನು ಓದುವುದು
- ಅವಲಂಬನೆಗಳನ್ನು (dependencies) ಪರಿಶೀಲಿಸುವುದು
- ಶೆಲ್ ಕಮಾಂಡ್ಗಳನ್ನು ಚಲಾಯಿಸುವುದು
- ಕಮಾಂಡ್ ಔಟ್ಪುಟ್ ಅನ್ನು ಪ್ರೊಸೆಸ್ ಮಾಡುವುದು
- ವಿಫಲವಾದ ಹಂತಗಳನ್ನು ಮರುಪ್ರಯತ್ನಿಸುವುದು
ಒಂದೇ ರೀತಿಯ ಚಿಕ್ಕ ಉತ್ತರವನ್ನು ನೀಡುವ ಎರಡು ಕಾರ್ಯಗಳು ವಿಭಿನ್ನ ವೆಚ್ಚವನ್ನು ಹೊಂದಿರಬಹುದು; ಉದಾಹರಣೆಗೆ, ಒಂದು ಕಾರ್ಯವು ಇಡೀ ರೆಪೊಸಿಟರಿಯನ್ನು ಓದಬೇಕಾಗಿದ್ದರೆ ಮತ್ತು ಇನ್ನೊಂದು ಕೇವಲ ಒಂದು ಫೈಲ್ ಅನ್ನು ಮಾತ್ರ ಓದಬೇಕಾಗಿದ್ದರೆ.
- Image Generation ಒಂದು ಅಂಗೀಕರಿಸಲ್ಪಟ್ಟ ಚಿತ್ರದ ವೆಚ್ಚವು ಕೇವಲ ಒಂದು API ಕರೆಯನ್ನು (API call) ಅವಲಂಬಿಸಿರುವುದಿಲ್ಲ. ಬಳಕೆದಾರರಿಗೆ ತಮಗೆ ಇಷ್ಟವಾದ ಒಂದು ಚಿತ್ರವನ್ನು ಪಡೆಯಲು 2.4 ಪ್ರಯತ್ನಗಳು ಬೇಕಾಗಿದ್ದರೆ, ನಿಮ್ಮ ವೆಚ್ಚವು ಎರಡರಷ್ಟು ಹೆಚ್ಚಾಗುತ್ತದೆ.
ಈ ವೆಚ್ಚಗಳನ್ನು ನಿರ್ವಹಿಸಲು, ನಿಮಗೆ ವಿವರವಾದ ದಾಖಲೆಗಳು ಬೇಕು. ಪಠ್ಯಕ್ಕಾಗಿ (text), ವಿನಂತಿ ಐಡಿಗಳು (request IDs), ಟೋಕನ್ಗಳು ಮತ್ತು ಮರುಪ್ರಯತ್ನಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಿ. ಮೀಡಿಯಾಕ್ಕಾಗಿ, ಜಾಬ್ ಐಡಿಗಳು (job IDs) ಮತ್ತು ವಿಫಲತೆಯ ಹಂತಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಿ.
ನಾನು ವೆಚ್ಚದ ಯೋಜನೆಯನ್ನು ನಾಲ್ಕು ಹಂತಗಳಾಗಿ ವಿಂಗಡಿಸಿದ್ದೇನೆ:
- ಪ್ರೊವೈಡರ್ ಬೆಲೆಗಳು (ಯುನಿಟ್ ದರಗಳು)
- ಉತ್ಪನ್ನದ ಬಳಕೆ (ಬಳಕೆದಾರರು ಮತ್ತು ವಿನಂತಿಗಳು)
- ಕಾರ್ಯಾಚರಣೆಯ ವಾಸ್ತವತೆ (ಮರುಪ್ರಯತ್ನಗಳು ಮತ್ತು ತಿರಸ್ಕಾರಗಳು)
- ಬಜೆಟ್ ಬಫರ್ಗಳು (ಸುರಕ್ಷತಾ ಮಾರ್ಜಿನ್ಗಳು)
ಕ್ಯಾಲ್ಕುಲೇಟರ್ ಒಂದು ಯೋಜನಾ ಸಾಧನವಾಗಿದೆ. ಇದು ಮಾಡೆಲ್ ಗುಣಮಟ್ಟ ಅಥವಾ ಭವಿಷ್ಯದ ಬೆಲೆ ಬದಲಾವಣೆಗಳನ್ನು ಮುನ್ಸೂಚಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಇದನ್ನು ಒಂದು ಮೂಲಾಧಾರವನ್ನು (baseline) ನಿರ್ಮಿಸಲು ಬಳಸಿ, ನಂತರ ಅದನ್ನು ನಿಮ್ಮ ನೈಜ ಬಿಲ್ಲಿಂಗ್ ಡ್ಯಾಶ್ಬೋರ್ಡ್ನೊಂದಿಗೆ ಹೋಲಿಸಿ.
Source: https://dev.to/cleandatadev/i-compared-the-real-cost-of-claude-code-openrouter-and-image-apis-1cip
Optional learning community: https://t.me/GyaanSetuAi