ನಾವು ಮಾದರಿಗಳನ್ನು ನಂಬುವುದನ್ನು ನಿಲ್ಲಿಸಿದೆವು. ನಂತರ ನಮ್ಮದೇ ಅಂಕಿಅಂಶಗಳನ್ನು ನಂಬುವುದನ್ನು ನಿಲ್ಲಿಸಿದೆವು.
ನಾನು ಉತ್ತಮವಾದ AI ಮಾದರಿಗಳ ಬೆನ್ನತ್ತುವುದನ್ನು ನಿಲ್ಲಿಸಿದೆ. ಬಲಿಷ್ಠವಾದ ಮಾದರಿಯು ನನ್ನ ವ್ಯವಸ್ಥೆಯನ್ನು (system) ಸರಿಪಡಿಸುತ್ತದೆ ಎಂದು ನಾನು ಭಾವಿಸಿದ್ದೆ. ಆದರೆ ಅದು ಹಾಗಾಗಲಿಲ್ಲ. ಸಮಸ್ಯೆ ಮಾದರಿಯಲ್ಲ ছিল না. ಸಮಸ್ಯೆ ವ್ಯವಸ್ಥೆಯಲ್ಲಿದೆ.
ನಂತರ ನಾನು ಇನ್ನೂ ಕೆಟ್ಟದಾದ ವಿಷಯವೊಂದನ್ನು ಅರಿತುಕೊಂಡೆ. ನನ್ನ ಸ್ವಂತ ಅಳತೆಗಳನ್ನೂ (measurements) ನಾನು ನಂಬಲು ಸಾಧ್ಯವಾಗುತ್ತಿರಲಿಲ್ಲ.
ನಾನು ಮೂರು ವಿಭಿನ್ನ ವೈಫಲ್ಯಗಳನ್ನು ಕಂಡೆ:
- ತಪ್ಪು ಪರಿಸರವನ್ನು (environment) ಅಳೆಯುವಾಗ ಯಶಸ್ವಿಯಾದ ಟೆಸ್ಟ್ ಸೂಟ್ (test suite).
- ಕೆಲಸವನ್ನು ತಡೆದರೂ ತಪ್ಪು ಅಂಕಿಅಂಶಗಳನ್ನು ನೀಡಿದ ಗೇಟ್ (gate).
- ತಪ್ಪು ಸಂಖ್ಯೆಯನ್ನು ವರದಿ ಮಾಡಿದ ಏಜೆಂಟ್ (agent).
ನಾನು ಹತ್ತಿರದಿಂದ ಗಮನಿಸುವವರೆಗೆ ಪ್ರತಿಯೊಂದು ವೈಫಲ್ಯವೂ ಯಶಸ್ಸಿನಂತೆಯೇ ಕಾಣುತ್ತಿತ್ತು. ನನ್ನ ಪರಿಶೀಲನಾ ಪರಿಕರಗಳು (verification tools) ನನಗೆ ಸುಳ್ಳು ಹೇಳುತ್ತಿದ್ದವು.
ಎಲ್ಲಾ ಅನಿಶ್ಚಿತತೆಗಳನ್ನು (uncertainty) ನಿಷೇಧಿಸುವುದು ನನ್ನ ಮೊದಲ ಪ್ರವೃತ್ತಿಯಾಗಿತ್ತು. ಪ್ರತಿಯೊಂದು ಸಂಭವನೀಯ ಅಂಶವನ್ನೂ (probabilistic element) ತೆಗೆದುಹಾಕಲು ನಾನು ಬಯಸಿದ್ದೆ. ಎಲ್ಲವೂ ನಿರ್ಣಾಯಕವಾಗಿರಲಿ (deterministic) ಎಂದು ನಾನು ಬಯಸಿದ್ದೆ.
ಅದು ಒಂದು ತಪ್ಪು.
ನೀವು ಎಲ್ಲಾ ಅನಿಶ್ಚಿತತೆಯನ್ನು ತೆಗೆದುಹಾಕಿದರೆ, ನೀವು AI ನ ಮೌಲ್ಯವನ್ನೇ ತೆಗೆದುಹಾಕಿದಂತಾಗುತ್ತದೆ. AI ಎಂಬುದು ಕಲ್ಪನೆಗಳನ್ನು ಪ್ರಸ್ತಾಪಿಸಲು ಮತ್ತು ಪರಿಹಾರಗಳನ್ನು ಹುಡುಕಲು ಬಳಕೆಯಾಗುತ್ತದೆ. ಕಟ್ಟುನಿಟ್ಟಾದ ನಿಯಮದಿಂದ ನೀವು ಇದನ್ನು ಪಡೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಪರಿಹಾರವು ಅನಿಶ್ಚಿತತೆಯನ್ನು ನಿಷೇಧಿಸುವುದಲ್ಲ. ಬದಲಾಗಿ ಅದನ್ನು ಸರಿಯಾದ ಜಾಗದಲ್ಲಿ ಇರಿಸುವುದು.
ಒಂದು ವ್ಯವಸ್ಥೆಗೆ ಎರಡು ವಿಭಿನ್ನ ಸ್ಥಾನಗಳು ಬೇಕಾಗುತ್ತವೆ:
ಪ್ರಸ್ತಾಪಿಸುವ ಸ್ಥಾನ (The Proposing Seat) ಈ ಸ್ಥಾನವು ಅನ್ವೇಷಣೆ ಮತ್ತು ಸಲಹೆಗಳನ್ನು ನೀಡುತ್ತದೆ. ಇದಕ್ಕೆ ನಿರ್ಣಯಾತ್ಮಕವಲ್ಲದ (nondeterminism) ಗುಣ ಅಗತ್ಯವಿದೆ. ಒಂದು ಮಾದರಿಯು ತಪ್ಪು ಪರಿಹಾರವನ್ನು ಸೂಚಿಸಿದರೆ, ಅದರ ವೆಚ್ಚ ಕಡಿಮೆ ಇರುತ್ತದೆ ಏಕೆಂದರೆ ಅದು ಇನ್ನೂ ಏನನ್ನೂ ನಿರ್ಧರಿಸಿಲ್ಲ.
ತೀರ್ಪು ನೀಡುವ ಸ್ಥಾನ (The Judging Seat) ಒಂದು ಪರೀಕ್ಷೆಯು ಯಶಸ್ವಿಯಾಯಿತೇ ಅಥವಾ ನಿಯಮವು ಪಾಲನೆಯಾಗಿದೆಯೇ ಎಂದು ಈ ಸ್ಥಾನವು ನಿರ್ಧರಿಸುತ್ತದೆ. ಈ ಸ್ಥಾನವು ನಿರ್ಣಾಯಕವಾಗಿರಲಿ (deterministic). ಇದು ಪುನರಾವರ್ತಿತವಾಗಿರಬೇಕು (reproducible) ಮತ್ತು ಪರಿಶೀಲಿಸಬಹುದಾದಂತಿರಬೇಕು.
ನನ್ನ ವ್ಯವಸ್ಥೆಯಲ್ಲಿನ ವೈಫಲ್ಯಗಳು ಸಂಭವಿಸಿದ್ದು ನಾನು ತೀರ್ಪು ನೀಡುವ ಸ್ಥಾನದಲ್ಲಿ ತಪ್ಪು ವಿಷಯಗಳನ್ನು ಇರಿಸಿದ್ದರಿಂದ. ಅನಿಶ್ಚಿತ ಪ್ರಕ್ರಿಯೆಗಳಿಗೆ ಅಂತಿಮ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ನಾನು ಅವಕಾಶ ನೀಡಿದ್ದೆ.
ನಿಯಮ ಸರಳವಾಗಿದೆ:
- ಅನಿಶ್ಚಿತ ಭಾಗಗಳು ಅನ್ವೇಷಣೆ ನಡೆಸಲಿ.
- ನಿರ್ಣಾಯಕ ಭಾಗಗಳು ತೀರ್ಪು ನೀಡಲಿ.
ಇಡೀ ವ್ಯವಸ್ಥೆಯನ್ನು ಖಚಿತವಾಗಿಸಲು ಪ್ರಯತ್ನಿಸಬೇಡಿ. ಬದಲಾಗಿ, ನಿಮ್ಮ ತೀರ್ಪುಗಾರರು (judges) ದೃಢವಾಗಿದ್ದಾರೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ. ತಪ್ಪು ಮಾಡುವ ಒಂದು ನಿರ್ಣಾಯಕ ತೀರ್ಪುಗಾರನು ಸಂಭವನೀಯ ತೀರ್ಪುಗಾರನಿಗಿಂತ ಹೆಚ್ಚು ಅಪಾಯಕಾರಿ. ತಪ್ಪು ತೀರ್ಪುಗಾರನು ಒಂದು ಸ್ಥಿರವಾದ ದೋಷವನ್ನು ಸೃಷ್ಟಿಸುತ್ತಾನೆ, ಅದನ್ನು ನೀವು ಕಾಲಾನಂತರದಲ್ಲಿ ಪ್ರಶ್ನಿಸುವುದನ್ನೇ ನಿಲ್ಲಿಸಿಬಿಡುತ್ತೀರಿ.
ನಿಮಗೆ ನಂಬಿಕೆಯನ್ನು ನೀಡುವ ಪ್ರತಿಯೊಂದು ಪದರವನ್ನು (layer) ಮೊದಲು ಅಳೆಯಬೇಕು. ಆ ಅಳತೆಯು ನೀವು ಸಾಕ್ಷೀಕರಿಸಬಹುದಾದ ಯಾವುದೋ ಒಂದು ನಿರ್ಣಾಯಕ ಅಂಶದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರಬೇಕು.
ನಿಮ್ಮ AI ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಪ್ರಸ್ತಾಪಿಸುವ ಮತ್ತು ತೀರ್ಪು ನೀಡುವ ನಡುವೆ ನೀವು ಹೇಗೆ ಗೆರೆ ಎಳೆಯುತ್ತೀರಿ? ನೀವು ಎಲ್ಲಿ ನಿರ್ಣಾಯಕತೆಗೆ (determinism) ಒತ್ತು ನೀಡುತ್ತೀರಿ?
ಮೂಲ: https://dev.to/josephyeo/we-stopped-trusting-models-then-we-stopped-trusting-our-own-numbers-1611
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi