ಎಂಟರ್ಪ್ರೈಸ್ AI ನಲ್ಲಿನ ನಂಬಿಕೆಯ ಸಮಸ್ಯೆ
AI ನಂಬಿಕೆಯ ಬಗ್ಗೆ ಮಾತನಾಡುವಾಗ ಹೆಚ್ಚಿನ ಕಂಪನಿಗಳು ತಪ್ಪು ವಿಷಯದ ಮೇಲೆ ಗಮನ ಹರಿಸುತ್ತವೆ. ಮಾಡೆಲ್ ನಿಖರವಾಗಿದೆಯೇ ಎಂದು ಅವು ಕೇಳುತ್ತವೆ. ಅದು ಭ್ರಮೆಗಳನ್ನು (hallucinates) ಸೃಷ್ಟಿಸುತ್ತದೆಯೇ ಎಂದು ಅವು ಕೇಳುತ್ತವೆ.
ಈ ಪ್ರಶ್ನೆಗಳು ನಿಜವಾದ ಅಂಶವನ್ನು ತಪ್ಪಿಸುತ್ತವೆ.
ಕಂಪನಿಗಳು AI ಅನ್ನು ಕೈಬಿಡಲು ಕಾರಣ ಮಾಡೆಲ್ ಅಲ್ಲ. ಅದು ಮಾಡೆಲ್ ಸುತ್ತಲಿನ ವ್ಯವಸ್ಥೆಯ ಮೇಲಿನ ನಂಬಿಕೆಯ ಕೊರತೆಯಾಗಿದೆ. ಪ್ರೊಡಕ್ಷನ್ನಲ್ಲಿ ಯಶಸ್ವಿಯಾಗಲು, ನಿಮಗೆ ಕಾರ್ಯಾಚರಣೆಯ ನಿಯಂತ್ರಣ (operational control) ಅಗತ್ಯವಿದೆ.
ನೀವು ನಾಲ್ಕು ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಬೇಕು:
- ನೀವು ಫಲಿತಾಂಶಗಳನ್ನು ವಿವರಿಸಬಲ್ಲಿರಾ? ಒಂದು ತಂಡವು AI ಏಕೆ ನಿರ್ದಿಷ್ಟ ಫಲಿತಾಂಶವನ್ನು ನೀಡಿತು ಎಂಬುದನ್ನು ವಿವರಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, ಅವರು ಕೇವಲ ಭರವಸೆಯ ಮೇಲೆ ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದಾರೆ ಎಂದರ್ಥ. ಮೊದಲ ಘಟನೆ ಸಂಭವಿಸಿದಾಗ ಆ ಭರವಸೆ ವಿಫಲವಾಗುತ್ತದೆ.
- ನೀವು ನಿರ್ಧಾರಗಳನ್ನು ದೃಢೀಕರಿಸಬಲ್ಲಿರಾ? AI ಫಲಿತಾಂಶಗಳನ್ನು ನೈಜ ವ್ಯವಹಾರದ ಅಗತ್ಯತೆಗಳೊಂದಿಗೆ ಪರಿಶೀಲಿಸಲು ನಿಮಗೆ ಒಂದು ಮಾರ್ಗ ಬೇಕು.
- ನೀವು ಮಧ್ಯಪ್ರವೇಶಿಸಬಲ್ಲಿರಾ? ನಿಮಗೆ ಒಂದು 'ಕಿಲ್ ಸ್ವಿಚ್' (kill switch) ಅಥವಾ ಪರ್ಯಾಯ ಮಾರ್ಗ (fallback path) ಬೇಕು. AI ಅನ್ನು ನಿಲ್ಲಿಸಲು ನಿಮ್ಮ ಬಳಿ ಮಾರ್ಗವಿಲ್ಲದಿದ್ದರೆ, ಬಿಕ್ಕಟ್ಟಿನ ಸಮಯದಲ್ಲಿ ನೀವು ಆ ಪಾಠವನ್ನು ಕಲಿಯುವಿರಿ.
- ನೀವು ಫಲಿತಾಂಶಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಬಲ್ಲಿರಾ? ಒಂದು ನಿರ್ಧಾರವು ಕೆಟ್ಟ ಪರಿಣಾಮವನ್ನು ಉಂಟುಮಾಡಿದರೆ, ನೀವು ಆ ಪ್ರಕ್ರಿಯೆಯ ಸರಪಳಿಯನ್ನು ಮರುನಿರ್ಮಿಸಬೇಕು. ನಿಮಗೆ ಇನ್ಪುಟ್, ಔಟ್ಪುಟ್ ಮತ್ತು ಸಂದರ್ಭ (context) ತಿಳಿದಿರಬೇಕು.
ಅಸ್ಪಷ್ಟತೆ (Opacity) ಡೆಮೋಗಳಲ್ಲಿ ಕೆಲಸ ಮಾಡಬಹುದು. ಆದರೆ ಪ್ರೊಡಕ್ಷನ್ನಲ್ಲಿ ಅದು ವಿಫಲವಾಗುತ್ತದೆ.
ನೈಜ ಪ್ರೊಡಕ್ಷನ್ ಪರಿಸರಗಳಲ್ಲಿ ಆಡಿಟರ್ಗಳು, ನಿಯಂತ್ರಕರು ಮತ್ತು ಎಂಜಿನಿಯರ್ಗಳಿರುತ್ತಾರೆ. ವಿಷಯಗಳು ಏಕೆ ಸಂಭವಿಸಿದವು ಎಂಬುದು ಈ ಜನರಿಗೆ ತಿಳಿಯಬೇಕಾಗುತ್ತದೆ. "AI ಅದನ್ನು ಮಾಡಿದೆ" ಎಂಬ ಉತ್ತರವನ್ನು ಅವರು ಒಪ್ಪಲು ಸಾಧ್ಯವಿಲ್ಲ.
ಅಸ್ಪಷ್ಟ ವ್ಯವಸ್ಥೆಗಳು ಅನಿಶ್ಚಿತತೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತವೆ. ಅನಿಶ್ಚಿತತೆಯು ಅಳವಡಿಕೆಯನ್ನು ಕುಂಠಿತಗೊಳಿಸುತ್ತದೆ.
AI ಅನ್ನು ದೀರ್ಘಕಾಲದವರೆಗೆ ಉಳಿಸಿಕೊಳ್ಳುವ ತಂಡಗಳು ಈ ನಾಲ್ಕು ಕೆಲಸಗಳನ್ನು ಮಾಡುತ್ತವೆ:
- ಅವರು ಫಲಿತಾಂಶಗಳನ್ನು ವಿವರಿಸುವಂತನ್ನಾಗಿ ಮಾಡುತ್ತಾರೆ. ತಂಡದ ಒಬ್ಬ ವ್ಯಕ್ತಿಯು ವ್ಯವಸ್ಥೆಯು ಏಕೆ ಹಾಗೆ ಮಾಡಿತು ಎಂಬುದಕ್ಕೆ ಯಾವಾಗಲೂ ಉತ್ತರಿಸಬಲ್ಲನು.
- ಅವರು ನಿರ್ಧಾರಗಳನ್ನು ಪರಿಶೀಲಿಸುವಂತನ್ನಾಗಿ ಮಾಡುತ್ತಾರೆ. AI ಮತ್ತು ಅಂತಿಮ ಕ್ರಮದ ನಡುವೆ ಒಂದು ದೃಢೀಕರಣ ಪದರವು (validation layer) ಇರುತ್ತದೆ.
- ಅವರು ಮಧ್ಯಪ್ರವೇಶವನ್ನು ಸಾಧ್ಯವಾಗಿಸುತ್ತಾರೆ. ಒಂದು ಓವರ್ರೈಡ್ ಮಾರ್ಗವು (override path) ಅಸ್ತಿತ್ವದಲ್ಲಿರುತ್ತದೆ ಮತ್ತು ಕೆಲಸ ಮಾಡುತ್ತದೆ.
- ಅವರು ಪತ್ತೆಹಚ್ಚುವ ಸಾಮರ್ಥ್ಯವನ್ನು (traceability) ನಿರ್ಮಿಸುತ್ತಾರೆ. ಲಾಗ್ಗಳು (Logs) ಪ್ರತಿಯೊಂದು ಘಟನೆಯನ್ನು ಮರುನಿರ್ಮಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತವೆ.
ಮಾಡೆಲ್ಗಳ ಲಭ್ಯತೆಯು ಈಗ ಸವಾಲಲ್ಲ. AI ನಿಮ್ಮ ಕೆಲಸದ ಹರಿವಿಗೆ (workflow) ಪ್ರವೇಶಿಸಿದಂತೆ ಕಾರ್ಯಾಚರಣೆಯ ಸ್ಪಷ್ಟತೆಯನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳುವುದು ಸವಾಲಾಗಿದೆ.
ವ್ಯವಸ್ಥೆಯು ಪಾರದರ್ಶಕ ಮತ್ತು ಪತ್ತೆಹಚ್ಚುವಂತಿದ್ದರೆ ಸಂಸ್ಥೆಗಳು AI ಅನ್ನು ವೇಗವಾಗಿ ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತವೆ. ಮಾಡೆಲ್ ಅನ್ನು ನಂಬುವುದು ಸಾಕಾಗುವುದಿಲ್ಲ. ನೀವು ಇಡೀ ವ್ಯವಸ್ಥೆಯನ್ನು ನಂಬಬೇಕು.
ನಿಮ್ಮ ತಂಡವು AI ನಂಬಿಕೆಯನ್ನು ಹೇಗೆ ನಿರ್ವಹಿಸುತ್ತದೆ? ಅದು ನಿಮ್ಮ ವಿನ್ಯಾಸದಲ್ಲಿಯೇ ಅಳವಡಿಸಲಾಗಿದೆಯೇ ಅಥವಾ ಏನಾದರೂ ಮುರಿದು ಹೋಗುವವರೆಗೆ ನೀವು ಕಾಯುತ್ತಿದ್ದೀರಾ?