𝗬𝗼𝘂𝗿 𝗱𝗼𝗰𝘀 𝗮𝗿𝗲𝗻'𝘁 𝗯𝘂𝗿𝗻𝗶𝗻𝗴 𝘆𝗼𝘂𝗿 𝘁𝗼𝗸𝗲𝗻𝘀 — 𝘆𝗼𝘂𝗿 𝘁𝗼𝗼𝗹𝗶𝗻𝗴 𝗶𝘀
PRDಗಳು ಮತ್ತು ಡಿಸೈನ್ ರಿವ್ಯೂಗಳಂತಹ ಡಾಕ್ಯುಮೆಂಟ್ಗಳನ್ನು ಬರೆಯುವುದು ಅತಿಯಾದ ಟೋಕನ್ಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತದೆ ಎಂದು ಜನರು ನನ್ನನ್ನು ಕೇಳುತ್ತಾರೆ.
ಈ ಪ್ರಕ್ರಿಯೆಯು ತುಂಬಾ ಭಾರವಾಗಿದೆ ಎಂದು ಅವರು ಭಾವಿಸುತ್ತಾರೆ. AI ಅನ್ನು ನೇರವಾಗಿ ಕೋಡ್ ಬರೆಯಲು ಬಿಡುವುದು ಹೆಚ್ಚು ಅಗ್ಗ ಎಂದು ಅವರು ಅಂದುಕೊಳ್ಳುತ್ತಾರೆ.
ಅವರು ತಪ್ಪು ಮಾಡುತ್ತಿದ್ದಾರೆ.
ಹೆಚ್ಚಿನ ಡಾಕ್ಯುಮೆಂಟ್ಗಳನ್ನು ಹೊಂದಿರುವುದು ಮತ್ತು ಹೆಚ್ಚಿನ ಟೋಕನ್ಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುವುದು ಎಂಬುದು ಎರಡು ಬೇರೆ ಬೇರೆ ವಿಷಯಗಳು. ಡಾಕ್ಯುಮೆಂಟ್ಗಳು ನಿಮ್ಮ ಫೋಲ್ಡರ್ಗಳಲ್ಲಿ ಇರುತ್ತವೆ. ಅವು ತಾವಾಗಿಯೇ ಟೋಕನ್ಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುವುದಿಲ್ಲ. ನಿಮ್ಮ ಕೆಟ್ಟ ಅಭ್ಯಾಸಗಳು ಟೋಕನ್ಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತವೆ.
ನಿಜವಾದ ಟೋಕನ್ ವ್ಯರ್ಥ ಮಾಡುವ ಅಂಶಗಳು ಇಲ್ಲಿವೆ:
- ಕಾನ್ಟೆಕ್ಸ್ ಬ್ಲೋಟ್ (Context bloat): ನೀವು ದಿನವಿಡೀ ಒಂದೇ ಸಂಭಾಷಣೆಯನ್ನು ಮುಂದುವರಿಸುತ್ತೀರಿ. ನೀವು ಪ್ರತಿ ಬಾರಿ ಹೊಸ ಪ್ರಶ್ನೆಯನ್ನು ಕೇಳಿದಾಗಲೂ, ಹಳೆಯ ಇತಿಹಾಸದ ಸಾವಿರಾರು ಟೋಕನ್ಗಳಿಗಾಗಿ ನೀವು ಪಾವತಿಸಬೇಕಾಗುತ್ತದೆ.
- ಅಸ್ಪಷ್ಟ ಪ್ರಾಂಪ್ಟ್ಗಳು (Vague prompts): ನಿಮಗೆ ಏನು ಬೇಕು ಎಂದು ನೀವು ಸರಿಯಾಗಿ ಹೇಳುವುದಿಲ್ಲ. AI ಊಹಿಸುತ್ತದೆ. ಒಂದು ಸ್ಪಷ್ಟ ಪ್ರಾಂಪ್ಟ್ನಿಂದ ಮಾಡಬಹುದಾದ ಕೆಲಸಕ್ಕಾಗಿ ನೀವು ಮೂರು ಸುತ್ತುಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತೀರಿ.
- ಪರಿಕರಗಳ ಅಸಮರ್ಪಕ ಬಳಕೆ: ನೀವು ಕೇವಲ ಒಂದು ಫೈಲ್ ಅನ್ನು ಬದಲಾಯಿಸಿದಾಗಲೂ, ಇಡೀ ರೆಪೊಸಿಟರಿಯನ್ನು (repo) ಓದಲು ನೀವು AI ಅನ್ನು ಒತ್ತಾಯಿಸುತ್ತೀರಿ.
ಅತಿದೊಡ್ಡ ವೆಚ್ಚವೆಂದರೆ ಪುನರ್ಕೆಲಸ (rework).
ನೀವು PRD ಬರೆಯದಿದ್ದರೆ, AI ನಿಮ್ಮ ಅವಶ್ಯಕತೆಗಳನ್ನು ತಪ್ಪಾಗಿ ಅರ್ಥೈಸಬಹುದು. ಆಗ ನೀವು ಮತ್ತೆ ಬರೆಯಲು, ವಿಷಯಗಳನ್ನು ಅಳಿಸಲು ಮತ್ತು ಹಾನಿಗೊಳಗಾದ ಭಾಗಗಳನ್ನು ಸರಿಪಡಿಸಲು ಹೆಚ್ಚಿನ ಟೋಕನ್ಗಳನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತೀರಿ.
PRD ಎಂಬುದು ಒಂದು ಬಾರಿಯ ವೆಚ್ಚ. ಪುನರ್ಕೆಲಸವು (rework) ಸಂಯೋಜಿತ ಸಾಲದಂತಿದೆ (compounding debt).
ಡಾಕ್ಯುಮೆಂಟ್ಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಬದಲು, ಟೋಕನ್ಗಳನ್ನು ಉಳಿಸಲು ಈ ವಿಧಾನಗಳನ್ನು ಬಳಸಿ:
- ಕಾನ್ಟೆಕ್ಸ್ ಅನ್ನು ಕಡಿತಗೊಳಿಸಿ: ನಿಮ್ಮ ಚಾಟ್ ಇತಿಹಾಸವನ್ನು ಆಗಾಗ್ಗೆ ಅಳಿಸಿಹಾಕಿ.
- ಮಾಡೆಲ್ಗಳನ್ನು ಹಂತಗಳಾಗಿ ವಿಂಗಡಿಸಿ (Tier your models): ಹುಡುಕಲು ಮತ್ತು ಓದಲು ಅಗ್ಗದ, ಸಣ್ಣ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿ. ಕಠಿಣ ಆಲೋಚನೆ ಮತ್ತು ಕೋಡಿಂಗ್ಗಾಗಿ ಮಾತ್ರ ಬಲಿಷ್ಠ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿ.
- ಫೈಲ್ಗಳನ್ನು ನಿಖರವಾಗಿ ಓದಿ: ಪ್ರಸ್ತುತ ಬದಲಾವಣೆಗೆ ಸಂಬಂಧಿಸಿದ ಮಾಹಿತಿಯನ್ನು ಮಾತ್ರ AI ಗೆ ನೀಡಿ.
- ಪ್ರಾಂಪ್ಟ್ ಕ್ಯಾಷಿಂಗ್ (prompt caching) ಬಳಸಿ: ಇದು ನಿಮ್ಮ ವೆಚ್ಚವನ್ನು ಗಣನೀಯವಾಗಿ ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
- ಟೋಕನ್ ಪ್ರೊಕ್ಸಿ ಬಳಸಿ: ದಿನನಿತ್ಯದ ಕಮಾಂಡ್ಗಳ ಔಟ್ಪುಟ್ ಅನ್ನು ಸಂಕುಚಿತಗೊಳಿಸಿ.
- ಸಮಾಂತರವಾಗಿ ಕಾರ್ಯಗೊಳಿಸಿ (Parallelize): ಸುತ್ತುಗಳನ್ನು (round-trips) ಕಡಿಮೆ ಮಾಡಲು ಸ್ವತಂತ್ರ ಕಾರ್ಯಗಳನ್ನು ಏಕಕಾಲದಲ್ಲಿ ಚಲಾಯಿಸಿ.
ಡಾಕ್ಯುಮೆಂಟ್ಗಳು ಆಸ್ತಿಗಳಿದ್ದಂತೆ. ಅವು ನಿರ್ಧಾರಗಳನ್ನು ಪರಿಶೀಲಿಸಲು (audit) ನಿಮಗೆ ಸಹಾಯ ಮಾಡುತ್ತವೆ. AI ಒಂದು ಉತ್ತಮ ಡಾಕ್ಯುಮೆಂಟ್ ಅನ್ನು ಓದಿದಾಗ, ಅದು ತಕ್ಷಣವೇ "ಏಕೆ" (why) ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುತ್ತದೆ. ಇದು ಟೋಕನ್ಗಳನ್ನು ಉಳಿಸುತ್ತದೆ.
ನೀವು ಉಳಿಸಲು ಬಯಸಿದರೆ, ನಿಮ್ಮ ಪರಿಕರಗಳನ್ನು ಬಳಸುವ ರೀತಿಯಲ್ಲಿ ಉಳಿಸಿ. ಡಾಕ್ಯುಮೆಂಟ್ಗಳನ್ನು ಬಿಟ್ಟುಬಿಡುವುದರ ಮೂಲಕ ಉಳಿಸಲು ಪ್ರಯತ್ನಿಸಬೇಡಿ.
Source: https://dev.to/kanfu-panda/your-docs-arent-burning-your-tokens-your-tooling-is-58ck
Optional learning community: https://t.me/GyaanSetuAi