𝗘𝘃𝗲𝗿 𝗕𝗲𝗲𝗻 𝗕𝘂𝗿𝗻𝗲𝗱 𝗯𝘆 𝗮𝗻 𝗔𝗜 𝗔𝘀𝘀𝗶𝘀𝘁𝗮𝗻𝘁? -> ನೀವು ಎಂದಾದರೂ AI ಅಸಿಸ್ಟೆಂಟ್ನಿಂದ ವಂಚಿತರಾಗಿದ್ದೀರಾ?
AI ಒಂದು ಕೆಲಸ ಮುಗಿದಿದೆ ಎಂದು ಹೇಳುತ್ತದೆ. ನೀವು ಅದನ್ನು ನಂಬುತ್ತೀರಿ. ನಂತರ ಅದು ಕೆಲಸವನ್ನು ಎಂದಿಗೂ ಪೂರ್ಣಗೊಳಿಸಿಲ್ಲ ಎಂಬ ವಿಷಯ ತಿಳಿಯಲು ನೀವು ದಿನಗಟ್ಟಲೆ ಸಮಯ ವ್ಯಯಿಸುತ್ತೀರಿ.
ಇದನ್ನು ನಾನು 'ಗ್ಯಾಪ್' (gap) ಎಂದು ಕರೆಯುತ್ತೇನೆ. AI ವರದಿ ಮಾಡುವ ವಿಷಯ ಮತ್ತು ವಾಸ್ತವದಲ್ಲಿ ನಡೆದ ವಿಷಯಗಳ ನಡುವಿನ ಅಂತರವೇ ಇದು.
ಆ ಅಂತರದಲ್ಲೇ ಸಮಸ್ಯೆ ಅಡಗಿದೆ. ಕೆಲವೊಮ್ಮೆ AI ಕಾರಣವಾಗಿರುತ್ತದೆ. ಕೆಲವೊಮ್ಮೆ ನಾನು ಕಾರಣನಾಗಿರುತ್ತೇನೆ. ಕೆಲವೊಮ್ಮೆ ಎಂಜಿನಿಯರಿಂಗ್ ಕಾರಣವಾಗಿರುತ್ತದೆ.
ಇಲ್ಲಿ ಮೂರು ನೈಜ ಉದಾಹರಣೆಗಳಿವೆ:
- The Provenance Trap (ಪ್ರೊವಿನೆನ್ಸ್ ಟ್ರ್ಯಾಪ್) ನಾನು ಒಂದು git branch ನಿಂದ ಕೋಡ್ ಅನ್ನು ಮರುಪಡೆಯಲು AI ಗೆ ಕೇಳಿದೆ. ಅದು ಇನ್ನೊಂದು branch ನಿಂದ ಅದನ್ನು ಪಡೆದಿದೆ (pulled) ಎಂದು ಹೇಳಿತು. ಆದರೆ ಅದು ಹಾಗೆ ಮಾಡಲಿಲ್ಲ. ವಾಸ್ತವವಾಗಿ ಅದು ಕೋಡ್ ಅನ್ನು ಕೈಯಾರೆ ಮರುಬರೆಯಿತು.
A cherry-pick ಗೆ ನೀವು ಅನುಸರಿಸಬಹುದಾದ ಇತಿಹಾಸವಿರುತ್ತದೆ. ಮ್ಯಾನುಯಲ್ ರೀರೈಟ್ (manual rewrite) ಒಂದು ಅನಾಥದಂತೆ. ಅದು ಸರಿಯಾಗಿ ಕಾಣಿಸಬಹುದು, ಆದರೆ ಅದಕ್ಕೆ ಯಾವುದೇ ವಂಶಾವಳಿ (lineage) ಇರುವುದಿಲ್ಲ. ನಾನು ಸತ್ಯಕ್ಕಾಗಿ ಒತ್ತಾಯಿಸಿದಾಗ, AI ಅದನ್ನು ಒಪ್ಪಿಕೊಂಡಿತು.
ಪಾಠ: AI provenance ಹೇಳಿಕೆಗಳು ನಂಬಲರ್ಹವಲ್ಲ. ಅದು ಏನು ಮಾಡಿದೆ ಎಂದು ಕೇಳಬೇಡಿ. ಅದು ವಾಸ್ತವವಾಗಿ ಏನು ಮಾಡಿದೆ ಎಂದು ನೋಡಲು git history ಅನ್ನು ಪರಿಶೀಲಿಸಿ.
- The Spot-Check Trap (ಸ್ಪಾಟ್-ಚೆಕ್ ಟ್ರ್ಯಾಪ್) ನಾನು ಫಾರ್ಮ್ ಲಾಜಿಕ್ (form logic) ಬದಲಾಯಿಸಲು AI ಗೆ ಕೇಳಿದೆ. ಅದು "done" ಎಂದಿತು. ನಾನು ಫ್ರಂಟ್ ಎಂಡ್ (front end) ಅನ್ನು ಡಿಬಗ್ ಮಾಡಲು ನಾಲ್ಕು ದಿನಗಳನ್ನು ಕಳೆದೆ.
ಲೈನ್-ಬೈ-ಲೈನ್ ಡಿಫ್ (line-by-line diff) ನೋಡಿದಾಗ ಅದು ಐದು ಸ್ಕೋಪ್ಗಳಲ್ಲಿ ನಾಲ್ಕನ್ನು ಬದಲಾಯಿಸಿತ್ತು ಎಂದು ತಿಳಿಯಿತು. ನಾನು ಹೆಚ್ಚಿನ ಪ್ರಮಾಣದ ಕೋಡ್ ಬದಲಾವಣೆಯನ್ನು ನೋಡಿ ಉಳಿದದ್ದು ಸರಿಯಾಗಿದೆ ಎಂದು ಭಾವಿಸಿದೆ. ನನ್ನ ಮೆದುಳು ಬಿಟ್ಟಿರುವ ಜಾಗಗಳನ್ನು ತಾನೇ ತುಂಬಿಕೊಂಡಿತು.
ಬದಲಾವಣೆ ಎಷ್ಟು ದೊಡ್ಡದಿದೆಯೋ, ಅ陷 (trap) ಅಷ್ಟು ಆಳವಾಗಿರುತ್ತದೆ. ದೊಡ್ಡ ಬದಲಾವಣೆಗಳು ನಿಮ್ಮ ಆತ್ಮವಿಶ್ವಾಸವನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ, ಆದರೆ ನಿಮ್ಮ ವಾಸ್ತವ ಕವರೇಜ್ (coverage) ಕಡಿಮೆಯಾಗುತ್ತದೆ.
ಪಾಠ: ಸ್ಕ್ಯಾನ್ ಮಾಡಬೇಡಿ. ಎಣಿಸಿ. ನಿಮ್ಮಲ್ಲಿ ಐದು ಕೆಲಸಗಳಿದ್ದರೆ, ಐದನ್ನೂ ಒಂದೊಂದಾಗಿ ಪರಿಶೀಲಿಸಿ.
- The Engineering Trap (ಎಂಜಿನಿಯರಿಂಗ್ ಟ್ರ್ಯಾಪ್) ಒಂದು AI ಲೂಪ್ನಲ್ಲಿ ಸಿಲುಕಿಕೊಂಡಿತು. ಅದು ಆಳವಾಗಿ ಯೋಚಿಸುತ್ತಿದೆ ಎಂದು ನಾನು ಭಾವಿಸಿ ಕಾಯುತ್ತಿದ್ದೆ. ಆದರೆ ಅದು ವಾಸ್ತವವಾಗಿ ನನ್ನ API ಕೋಟಾವನ್ನು (quota) ವ್ಯರ್ಥ ಮಾಡುತ್ತಿತ್ತು.
ಮಾಡೆಲ್ ಟೋಕನ್ಗಳನ್ನು (tokens) ಉತ್ಪಾದಿಸುತ್ತದೆ. ಅದು ಬಜೆಟ್ಗಳನ್ನು ನಿರ್ವಹಿಸುವುದಿಲ್ಲ. ಲೂಪ್ ಕಂಟ್ರೋಲ್ (loop control), ಟೈಮೌಟ್ಗಳು (timeouts) ಮತ್ತು ಬಜೆಟ್ ಕ್ಯಾಪ್ಗಳು (budget caps) ಎಂಜಿನಿಯರಿಂಗ್ ಲೇಯರ್ಗೆ ಸೇರಿವೆ.
ಪಾಠ: ಯಾವುದೇ ಸ್ವಯಂಚಾಲಿತ ಏಜೆಂಟ್ಗೆ ಸ್ಟೆಪ್ ಲಿಮಿಟ್ಗಳು (step limits) ಮತ್ತು ಬಜೆಟ್ ಕ್ಯಾಪ್ಗಳು (budget caps) ಇರಲೇಬೇಕು. ಅದು ತಾನೇ ನಿಲ್ಲುತ್ತದೆ ಎಂದು ಮಾಡೆಲ್ ಮೇಲೆ ಅವಲಂಬಿತರಾಗಬೇಡಿ.
ಸಾರಾಂಶ:
AI ನ ಮಾತು ಸಾಕ್ಷ್ಯವಷ್ಟೇ, ತೀರ್ಪಲ್ಲ.
ಸಾಕ್ಷ್ಯ ಎಂದರೆ ಅದು ಹೇಳುವ ವಿಷಯ. ತೀರ್ಪು ಎಂದರೆ ಭೌತಿಕ ಪುರಾವೆ.
- ಅದು "fixed" ಎಂದು ಹೇಳಿದರೆ, diff ಅನ್ನು ಪರಿಶೀಲಿಸಿ.
- ಅದು "pulled" ಎಂದು ಹೇಳಿದರೆ, git log ಅನ್ನು ಪರಿಶೀಲಿಸಿ.
- ಅದು "thinking" ಎಂದು ಹೇಳಿದರೆ, ಟೋಕನ್ ಬಳಕೆಯನ್ನು ಪರಿಶೀಲಿಸಿ.
ಪರಿಪಕ್ವತೆ ಎಂದರೆ AI ಅನ್ನು ನಂಬುವುದನ್ನು ಕಲಿಯುವುದಲ್ಲ. ಅದರ ಮಾತನ್ನು ಯಾವಾಗಲೂ ಸಾಕ್ಷ್ಯವೆಂದು ಪರಿಗಣಿಸುವುದನ್ನು ಕಲಿಯುವುದು.
Source: https://dev.to/chenghongm/ever-been-burned-by-your-ai-assistant-hold-on-who-dug-the-hole-1ipl
Optional learning community: https://t.me/GyaanSetuAi