ಈ ವಾರ ನಿಮ್ಮ ತಂಡಕ್ಕೆ ಉತ್ತಮವಾದ AI ಮಾಡೆಲ್ ಅಗತ್ಯವಿಲ್ಲ
ನಿಮ್ಮ ತಂಡಕ್ಕೆ ಹೊಸ AI ಮಾಡೆಲ್ ಅಗತ್ಯವಿಲ್ಲ. ಅವರಿಗೆ ಉತ್ತಮವಾದ ವರ್ಕ್ಫ್ಲೋಗಳು (workflows) ಬೇಕಾಗಿವೆ.
ಇತ್ತೀಚಿನ ಮಾಡೆಲ್ಗಳಿಗಾಗಿ ಹುಡುಕಾಟವನ್ನು ನಿಲ್ಲಿಸಿ. ನಿಮ್ಮ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯನ್ನು (execution) ಎಂಜಿನಿಯರಿಂಗ್ ಮಾಡಲು ಪ್ರಾರಂಭಿಸಿ. ಹೆಚ್ಚಿನ ತಂಡಗಳು ಒಂದೇ ರೀತಿಯ ಸಮಸ್ಯೆಗಳನ್ನು ಎದುರಿಸುತ್ತವೆ. ಏಜೆಂಟ್ ಲೂಪ್ಗಳು (Agent loops) ಕೆಲಸದ ಮಧ್ಯದಲ್ಲಿ ನಿಂತುಹೋಗುತ್ತವೆ. ಅಪ್ರೂವಲ್ ಪ್ರಾಂಪ್ಟ್ಗಳು (Approval prompts) ಜನರನ್ನು ಗೊಂದಲಕ್ಕೀಡುಮಾಡುತ್ತವೆ. ಕಾಂಟೆಕ್ಸ್ಟ್ ಚೈನ್ಸ್ಗಳು (Context chains) ಮರುಪ್ರಯತ್ನಗಳ ಸಮಯದಲ್ಲಿ (retries) ಕಳವಳಗೊಳ್ಳುತ್ತವೆ. ಆಟೊಮೇಷನ್ ತನ್ನ ಸ್ಥಿತಿಯನ್ನು (state) ಕಳೆದುಕೊಂಡ ಕಾರಣ ಮನುಷ್ಯರು ತಪ್ಪುಗಳನ್ನು ಸರಿಪಡಿಸಲು ಗಂಟೆಗಟ್ಟಲೆ ಸಮಯ ವ್ಯಯಿಸುತ್ತಾರೆ.
ಸಮಸ್ಯೆ ಇನ್ನು ಬುದ್ಧಿವಂತಿಕೆಯಲ್ಲ. ಸಮಸ್ಯೆ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯಲ್ಲ (execution).
ನಾವು 'ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಟ್ಯಾಕ್ಸ್' (orchestration tax) ಯುಗಕ್ಕೆ ಪ್ರವೇಶಿಸುತ್ತಿದ್ದೇವೆ. ನೀವು ಅದಕ್ಕಾಗಿ ಯೋಜಿಸದಿದ್ದರೆ, ಸೇವೆಯಲ್ಲಿನ ವ್ಯತ್ಯಯಗಳು (outages) ಮತ್ತು ಮೌನ ವೈಫಲ್ಯಗಳ (silent failures) ಮೂಲಕ ನೀವು ಅದರ ಬೆಲೆಯನ್ನು ತೆರಬೇಕಾಗುತ್ತದೆ. ಇಂಜಿನಿಯರ್ಗಳು ತಡರಾತ್ರಿಯವರೆಗೆ ಬಾಟ್ಗಳನ್ನು (bots) ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಬೇಕಾದಾಗ ನೀವು ಈ ಬೆಲೆಯನ್ನು ತೆರುತ್ತೀರಿ.
AI ಔಟ್ಪುಟ್ ಅಪರೂಪವಾಗಿ ಅಂತಿಮ ಉತ್ಪನ್ನವಾಗಿರುತ್ತದೆ. ಇದು ದೊಡ್ಡ ವ್ಯವಸ್ಥೆಯಲ್ಲಿನ ಒಂದು ಮಧ್ಯಂತರ ಹಂತವಾಗಿದೆ. ಇದು ಟಿಕೆಟ್ ಟ್ರೈಯೇಜ್ (ticket triage), PR ಡ್ರಾಫ್ಟಿಂಗ್ ಮತ್ತು ಟೆಸ್ಟ್ ಜನರೇಷನ್ನಲ್ಲಿ ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ನೀವು ಈ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಲೇಬೇಕು:
- ಟೈಮೌಟ್ ಆದ ನಂತರ ಕಾರ್ಯವನ್ನು ಪುನರಾರಂಭಿಸಲು ಸಾಧ್ಯವೇ?
- ಬದಲಾವಣೆಯನ್ನು ಯಾರು ಅನುಮೋದಿಸಿದರು ಎಂಬುದನ್ನು ನಾವು ಆಡಿಟ್ ಮಾಡಬಹುದೇ?
- ಡ್ಯುಪ್ಲಿಕೇಟ್ ಸೈಡ್ ಎಫೆಕ್ಟ್ಗಳನ್ನು (side effects) ಸೃಷ್ಟಿಸದೆ ನಾವು ಕಾರ್ಯವನ್ನು ಮರು-ಚಾಲನೆ ಮಾಡಬಹುದೇ?
- ಮೊದಲಿನಿಂದ ಪ್ರಾರಂಭಿಸದೆ ಮನುಷ್ಯನು ಮಧ್ಯದಲ್ಲಿ ಕಾರ್ಯವನ್ನು ವಹಿಸಿಕೊಳ್ಳಬಹುದೇ?
ಹಿರಿಯ ಇಂಜಿನಿಯರ್ಗಳಿಗೆ ಇದನ್ನು ಹೇಗೆ ಪರಿಹರಿಸಬೇಕೆಂದು ಈಗಾಗಲೇ ತಿಳಿದಿದೆ. ನಾವು ವರ್ಷಗಳ ಹಿಂದೆಯೇ ಪೇಮೆಂಟ್ಸ್ ಮತ್ತು ಬ್ಯಾಕ್ಗ್ರೌಂಡ್ ಜಾಬ್ಗಳಿಗಾಗಿ ಈ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸಿದ್ದೇವೆ. ನಾವು ಐಡೆಂಪೊಟೆನ್ಸಿ ಕೀಗಳು (idempotency keys), ಚೆಕ್ಪಾಯಿಂಟ್ಗಳು ಮತ್ತು ಟ್ರಾನ್ಸಾಕ್ಷನ್ ಲಾಗ್ಗಳನ್ನು ಬಳಸುತ್ತೇವೆ. AI ಕೇವಲ ಈ ವೈಫಲ್ಯಗಳು ವೇಗವಾಗಿ ಸಂಭವಿಸುವಂತೆ ಮಾಡುತ್ತದೆ.
ಮಾಡೆಲ್ ಗುಣಮಟ್ಟವು ಸಮೀಕರಣದ ಒಂದು ಭಾಗ ಮಾತ್ರ. ಹಾನಿಕಾರಕ ವರ್ಕ್ಫ್ಲೋದಲ್ಲಿರುವ ಉತ್ತಮ ಮಾಡೆಲ್ ಗೊಂದಲವನ್ನು ಉಂಟುಮಾಡುತ್ತದೆ. ಬಲವಾದ ವರ್ಕ್ಫ್ಲೋದಲ್ಲಿರುವ ಸಾಧಾರಣ ಮಾಡೆಲ್ ಮೌಲ್ಯವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
ಕೇವಲ ಭಾವನೆಗಳ ಬೆನ್ನಟ್ಟುವ ಬದಲು ಒಂದು ಪ್ರಾಯೋಗಿಕ ಪ್ಲೇಬುಕ್ ಅನ್ನು ನಿರ್ಮಿಸಿ:
AI ಕೆಲಸವನ್ನು ಸ್ಪಷ್ಟವಾದ ಹಂತಗಳಾಗಿ ವಿಂಗಡಿಸಿ.
collect_context,propose_change, ಮತ್ತುrun_checksನಂತಹ ಹಂತಗಳನ್ನು ಬಳಸಿ. ಒಂದು ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್ ಇಡೀ ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಡೆಸಲು ಬಿಡಬೇಡಿ.ಬಾಳಿಕೆಗಾಗಿ (durability) ಡೇಟಾಬೇಸ್ ಬಳಸಿ. ನಿಮ್ಮ ವರ್ಕ್ಫ್ಲೋ ಸ್ಥಿತಿ ಮತ್ತು ಇವೆಂಟ್ ಲಾಗ್ಗಳನ್ನು Postgres ನಂತಹ ಡೇಟಾಬೇಸ್ನಲ್ಲಿ ಸಂಗ್ರಹಿಸಿ. ಒಂದು ವೇಳೆ ವರ್ಕರ್ ಕ್ರ್ಯಾಶ್ ಆಗಿದರೆ, ನೀವು ಮೆಮೊರಿ ಬದಲಿಗೆ ಸ್ಟೇಟ್ನಿಂದ (state) ಚೇತರಿಸಿಕೊಳ್ಳಬಹುದು.
ಐಡೆಂಪೊಟೆನ್ಸಿಯನ್ನು (idempotency) ಕಡ್ಡಾಯಗೊಳಿಸಿ. ಡೇಟಾವನ್ನು ಬದಲಾಯಿಸುವ ಪ್ರತಿಯೊಂದು ಕ್ರಿಯೆಗೆ ಸ್ಥಿರವಾದ ಕೀ (stable key) ಅಗತ್ಯವಿದೆ. ಒಂದು ಹಂತವು ಎರಡು ಬಾರಿ ಚಲಿಸಿದರೂ, ಫಲಿತಾಂಶವು ಒಂದೇ ಆಗಿರಬೇಕು.
ಹಂತಗಳ ಮೂಲಕ ಅನುಮತಿಗಳನ್ನು ನಿರ್ವಹಿಸಿ. ನಿರಂತರವಾಗಿ ಅನುಮೋದನೆ ಕೇಳಬೇಡಿ. ರೀಡ್-ಓನ್ಲಿ (read-only) ಕಾರ್ಯಗಳು, ಕಡಿಮೆ ಅಪಾಯದ ಬರವಣಿಗೆಗಳು (low-risk writes) ಮತ್ತು ಹೆಚ್ಚಿನ ಪರಿಣಾಮ ಬೀರುವ ಬದಲಾವಣೆಗಳಿಗಾಗಿ ಹಂತಗಳನ್ನು ರಚಿಸಿ.
ಕಾರ್ಯಾಚರಣೆಯ ಮೆಟ್ರಿಕ್ಗಳನ್ನು (operational metrics) ಟ್ರ್ಯಾಕ್ ಮಾಡಿ. ಕೇವಲ ವಿಳಂಬ (latency) ಮತ್ತು ವೆಚ್ಚವನ್ನು ಮಾತ್ರ ಟ್ರ್ಯಾಕ್ ಮಾಡುವುದನ್ನು ನಿಲ್ಲಿಸಿ. ಮರುಪ್ರಯತ್ನದ ಯಶಸ್ಸಿನ ದರಗಳು (retry success rates), ಮಾನವ ಹಸ್ತಕ್ಷೇಪದ ಬಿಂದುಗಳು ಮತ್ತು ರೋಲ್ಬ್ಯಾಕ್ ಆವರ್ತನವನ್ನು (rollback frequency) ಟ್ರ್ಯಾಕ್ ಮಾಡಿ.
ಅತ್ಯುತ್ತಮ AI ತಂಡಗಳು ಸ್ವಾಯತ್ತ ಏಜೆಂಟ್ಗಳ (autonomous agents) ಬಗ್ಗೆ ಬಡಾಯಿ ಕೊಚ್ಚಿಕೊಳ್ಳುವುದಿಲ್ಲ. ಅವು ಬಾಳಿಕೆ ಬರುವ, ವೀಕ್ಷಿಸಬಹುದಾದ (observable) ಪೈಪ್ಲೈನ್ಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತವೆ. ಅವುಗಳ ಶಕ್ತಿಯು ಮ್ಯಾಜಿಕ್ ಪ್ರಾಂಪ್ಟ್ಗಳಲ್ಲಲ್ಲ, ಬದಲಾಗಿ ಶಿಸ್ತುಬದ್ಧ ಸಿಸ್ಟಮ್ಸ್ ಎಂಜಿನಿಯರಿಂಗ್ ಆಗಿರುತ್ತದೆ.
ಮಾಡೆಲ್ಗಳು ಪ್ರತಿ ತಿಂಗಳು ಹೆಚ್ಚು ಬುದ್ಧಿವಂತವಾಗುತ್ತಿವೆ. ವಿಷಯಗಳು ತಪ್ಪಾದಾಗ ಗಾಬರಿಯಾಗದ ವರ್ಕ್ಫ್ಲೋಗಳನ್ನು ನಿರ್ಮಿಸುವುದರಿಂದ ನಿಮ್ಮ ಅನುಕೂಲ ಸಿಗುತ್ತದೆ.
Source: https://dev.to/chrisbuildsonline/your-team-doesnt-need-a-better-ai-model-this-week-2og7
Optional learning community: https://t.me/GyaanSetuAi