ಸ್ವಾಯತ್ತ ವಾಹನಗಳು, ಕೈಗಾರಿಕಾ ರೋಬೋಟ್ಗಳು ಮತ್ತು ಡ್ರೋನ್ ಪಡೆಗಳು ಹಳೆಯ ಆಟೋಪಿಲಟ್ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಚಲಾಯಿಸುತ್ತಿದ್ದ ಕಟ್ಟುನಿಟ್ಟಾದ, ಕೈಬರಹದ ನಿಯಮಾವಳಿಗಳನ್ನು ಅನುಸರಿಸುವುದಿಲ್ಲ. ಅವು ಅಪಾರ ಪ್ರಮಾಣದ ಡೇಟಾದಿಂದ ಕಲಿಯುತ್ತವೆ, ಅಂದರೆ ಅವುಗಳ ನಡವಳಿಕೆಯು ಸಂಭಾವ್ಯತೆಯ ಮೇಲೆ (probabilistic) ಆಧಾರಿತವಾಗಿದೆಯೇ ಹೊರತು ನಿರ್ಣಾಯಕವಾಗಿರಲಿ (deterministic) ಎಂದಲ್ಲ. ಸಾಂಪ್ರದಾಯಿಕ ವಿಮಾನದ ಆಟೋಪಿಲಟ್ ಸ್ಪಷ್ಟವಾಗಿ ಕೋಡ್ ಮಾಡಲಾದ ತರ್ಕದ ಮೂಲಕ ಸೆನ್ಸರ್ ಇನ್ಪುಟ್ಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ. ಆದರೆ ಮಷೀನ್ ಲರ್ನಿಂಗ್ ಮಾಡೆಲ್ ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಅದು ಕಂಡುಕೊಂಡ ಮಾದರಿಗಳ (patterns) ಮೂಲಕ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ. ಈ ವ್ಯತ್ಯಾಸವು ದೃಢೀಕರಣವನ್ನು (verification) ಹೆಚ್ಚು ಕಷ್ಟಕರವಾಗಿಸುತ್ತದೆ, ಮತ್ತು ಇದೇ ಕಾರಣಕ್ಕಾಗಿ ಮಷೀನ್ ಲರ್ನಿಂಗ್ ಸಮುದಾಯವು ಅಡ್-ಹಾಕ್ ಪರೀಕ್ಷೆಗಳಿಗಿಂತ ರಚನಾತ್ಮಕ ಅಶ್ಯರೆನ್ಸ್ ಫ್ರೇಮ್ವರ್ಕ್ಗಳತ್ತ (structured assurance frameworks) ಸಾಗಿದೆ.
ಮಷೀನ್ ಲರ್ನಿಂಗ್ ಅಶ್ಯರೆನ್ಸ್ ಏಕೆ ಅನಿವಾರ್ಯ
ಸ್ವಾಯತ್ತ ವ್ಯವಸ್ಥೆಯು ತಪ್ಪು ಮಾಡಿದಾಗ, ಅದರ ಪರಿಣಾಮಗಳು ಕೇವಲ ಸರ್ವರ್ ದೋಷ ಅಥವಾ ಅಪ್ಲಿಕೇಶನ್ ಸ್ಥಗಿತಗೊಳ್ಳುವುದಕ್ಕೆ ಸೀಮಿತವಾಗಿರುವುದಿಲ್ಲ. ಗೋದಾಮಿನ ರೋಬೋಟ್ ಅಡೆತಡೆಯನ್ನು ತಪ್ಪಾಗಿ ಗುರುತಿಸಿದರೆ ದಾಸ್ತಾನು ನಾಶವಾಗಬಹುದು ಅಥವಾ ಕೆಲಸಗಾರನಿಗೆ ಗಾಯವಾಗಬಹುದು. ಡೆಲಿವರಿ ಡ್ರೋನ್ ವಿದ್ಯುತ್ ಲೈನ್ ಅನ್ನು ತೆರೆದ ಆಕಾಶ ಎಂದು ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಿದರೆ ಮೂಲಸೌಕರ್ಯಕ್ಕೆ ಡಿಕ್ಕಿ ಹೊಡೆಯಬಹುದು. ಈ ವ್ಯವಸ್ಥೆಗಳು ಸಂಕೀರ್ಣ ನ್ಯೂರಲ್ ನೆಟ್ವರ್ಕ್ಗಳು ಮತ್ತು ಸಾಂಖ್ಯಿಕ ಮಾದರಿಗಳನ್ನು ಅವಲಂಬಿಸಿರುವುದರಿಂದ, ಅವುಗಳ ವೈಫಲ್ಯದ ವಿಧಾನಗಳು (failure modes) ಅತ್ಯಂತ ಸೂಕ್ಷ್ಮವಾಗಿರುತ್ತವೆ. ಅವು ಎಂದಿಗೂ ಸ್ಪಷ್ಟವಾದ ರೀತಿಯಲ್ಲಿ ವಿಫಲವಾಗುವುದಿಲ್ಲ. ಬದಲಾಗಿ, ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಕಂಡ ಮಾದರಿಗಳ ಹೊರಗಿನ ಇನ್ಪುಟ್ಗಳನ್ನು ಎದುರಿಸಿದಾಗ ಅವು ಸುಮ್ಮನೆ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತವೆ.
ಸ್ವಾಯತ್ತ ಮಷೀನ್ ಲರ್ನಿಂಗ್ನಲ್ಲಿನ ದೋಷಗಳು ಯಾವಾಗಲೂ ಕೆಟ್ಟ ಕೋಡ್ನಿಂದ ಉಂಟಾಗುವುದಿಲ್ಲ. ಅವು ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿನ ಕೊರತೆಗಳು, ಅನಿರೀಕ್ಷಿತ ಪರಿಸರ ಬದಲಾವಣೆಗಳು ಅಥವಾ ಎಡ್ಜ್ ಕೇಸ್ಗಳ (edge cases) ಮೇಲಿನ ಅತಿಯಾದ ವಿಶ್ವಾಸದ ಮುನ್ಸೂಚನೆಗಳಿಂದ ಉಂಟಾಗಬಹುದು. ML ಘಟಕಗಳನ್ನು ಸಾಮಾನ್ಯ ಸಾಫ್ಟ್ವೇರ್ ಮಾಡ್ಯೂಲ್ಗಳಂತೆ ಪರಿಗಣಿಸಿ, ಕೇವಲ ಯೂನಿಟ್ ಟೆಸ್ಟ್ ಸೂಟ್ ಸಾಕಾಗುತ್ತದೆ ಎಂದು ಭಾವಿಸುವ ಸಂಸ್ಥೆಗಳು, ಪ್ರಯೋಗಾಲಯದ ನಿಖರತೆಯು ನೈಜ ಪ್ರಪಂಚದ ಸುರಕ್ಷತೆಗೆ ಪೂರಕವಾಗಿರುವುದಿಲ್ಲ ಎಂಬ ಸತ್ಯವನ್ನು ಬಹಳ ತಡವಾಗಿ ಅರಿಯುತ್ತವೆ. ಕಲಿತ ನಡವಳಿಕೆಯ ವಿಶಿಷ್ಟ ಅಪಾಯಗಳನ್ನು ಎದುರಿಸಲು ನಿಮಗೆ ವ್ಯವಸ್ಥಿತ ಮಾನದಂಡದ ಅಗತ್ಯವಿದೆ. AMLAS ಚೌಕಟ್ಟುವು ಇದೇ ಅಂತರವನ್ನು ತುಂಬಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ.
AMLAS ವಾಸ್ತವವಾಗಿ ಏನನ್ನು ಒಳಗೊಂಡಿದೆ
AMLAS (Assurance of Machine Learning for use in Autonomous Systems) ಎಂಬುದು ಕಲಿತ ಘಟಕಗಳು ಹೆಚ್ಚಿನ ಅಪಾಯವಿರುವ ನಿಯೋಜನೆಗೆ (high-stakes deployment) ಸೂಕ್ತವಾಗಿವೆ ಎಂಬುದನ್ನು ದೃಢೀಕರಿಸಲು ಒಂದು ಸಮಗ್ರ ವಿಧಾನವನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದು ಸುರಕ್ಷತೆಯನ್ನು ಕೇವಲ ಬಿಡುಗಡೆಗೆ ಮುನ್ನ ಮಾಡುವ ಅಂತಿಮ ಹಂತವಾಗಿ ಅಥವಾ ನಂತರದ ವಿಚಾರವಾಗಿ ಪರಿಗಣಿಸುವುದಿಲ್ಲ. ಬದಲಾಗಿ, ಇದು ಅಶ್ಯರೆನ್ಸ್ ಚಟುವಟಿಕೆಗಳನ್ನು ವ್ಯವಸ್ಥೆಯ ಜೀವನಚಕ್ರದ (lifecycle) ಭಾಗವಾಗಿ ಅಳವಡಿಸುತ್ತದೆ.
ಈ ಚೌಕಟ್ಟು ಮೂರು ಪ್ರಾಯೋಗಿಕ ಸ್ತಂಭಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ:
ML ಮಾಡೆಲ್ಗಳಿಗಾಗಿ ದೃಢೀಕರಣ ವಿಧಾನಗಳು (Verification methods). ಇದು ನಿಖರತೆ (accuracy) ಅಥವಾ F1 ಸ್ಕೋರ್ನಂತಹ ಸಾಮಾನ್ಯ ತರಬೇತಿ-ಪರೀಕ್ಷೆ ವಿಭಜನೆಯ ಮಾಪನಗಳಿಗಿಂತ ಬಹಳ ಮಿಗಿಲಾದುದು. AMLAS ಅಡಿಯಲ್ಲಿ, ಮಾಡೆಲ್ ನಿರ್ಧಾರದ ಗಡಿಗಳಲ್ಲಿ (decision boundaries) ಎಚ್ಚರಿಕೆಯ ನಡವಳಿಕೆಯನ್ನು ತೋರಿಸುತ್ತದೆಯೇ, ವಿತರಣೆಯ ಹೊರಗಿನ (out-of-distribution) ಇನ್ಪುಟ್ಗಳಿಗೆ ಅದು ಹೇಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ ಮತ್ತು ಅದರ ಕಾನ್ಫಿಡೆನ್ಸ್ ಸ್ಕೋರ್ಗಳು ವಾಸ್ತವಿಕ ಅನಿಶ್ಚಿತತೆಯ ವಿಶ್ವಾಸಾರ್ಹ ಸೂಚಕಗಳೇ ಎಂಬುದನ್ನು AMLAS ಪ್ರಶ್ನಿಸುತ್ತದೆ. ಎಂಜಿನಿಯರ್ಗಳು ಮಾಡೆಲ್ ಅನ್ನು ಅಡ್ವರ್ಸರಿಯಲ್ ಉದಾಹರಣೆಗಳೊಂದಿಗೆ (adversarial examples) ಪರೀಕ್ಷಿಸಬೇಕಾಗುತ್ತದೆ ಮತ್ತು ತರಬೇತಿ ಸೆಟ್ಗಿಂತ ಸ್ವಲ್ಪ ಹೊರಗಿನ ಡೊಮೇನ್ಗಳಿಂದ ಬರುವ ಇನ್ಪುಟ್ಗಳ ವಿರುದ್ಧ ಅದನ್ನು ಸ್ಟ್ರೆಸ್-ಟೆಸ್ಟ್ ಮಾಡಬೇಕಾಗುತ್ತದೆ. ಇದರ ಗುರಿ ಪರಿಪೂರ್ಣತೆಗಲ್ಲ; ಬದಲಾಗಿ ಮಾಡೆಲ್ ಅನ್ನು ಯಾವಾಗ ನಂಬಬಹುದು ಮತ್ತು ಯಾವಾಗ ನಂಬಬಾರದು ಎಂದು ತಿಳಿಯಲು ಸಾಕಷ್ಟು ಪುರಾವೆಗಳನ್ನು ಪಡೆಯುವುದು.
ಸ್ವಾಯತ್ತ ಕ್ರಮಗಳಿಗಾಗಿ ಸುರಕ್ಷತಾ ಪ್ರೋಟೋಕಾಲ್ಗಳು (Safety protocols). ಕಲಿತ ಪರ್ಸೆಪ್ಷನ್ ಮಾಡೆಲ್ (perception model) ಭೌತಿಕ ಹಾರ್ಡ್ವೇರ್ ಅನ್ನು ಚಲಿಸುವ ಪ್ಲಾನಿಂಗ್ ಮತ್ತು ಕಂಟ್ರೋಲ್ ಸಾಫ್ಟ್ವೇರ್ಗೆ ಇನ್ಪುಟ್ ನೀಡುತ್ತದೆ. AMLAS ಈ ಡೌನ್ಸ್ಟ್ರೀಮ್ ಕ್ರಮಗಳು ರಕ್ಷಣಾತ್ಮಕ ಕ್ರಮಗಳನ್ನು (guardrails) ಒಳಗೊಂಡಿರಬೇಕೆಂದು ಒತ್ತಾಯಿಸುತ್ತದೆ. ನ್ಯೂರಲ್ ನೆಟ್ವರ್ಕ್ ಒಂದು ವಸ್ತುವನ್ನು ತಪ್ಪಾಗಿ ವರ್ಗೀಕರಿಸಿದರೂ ಸಹ, ವಾಹನ ಅಥವಾ ರೋಬೋಟ್ ಕಠಿಣ ನಿರ್ಬಂಧಗಳನ್ನು (hard constraints) ಉಲ್ಲಂಘಿಸುವ ಪಥವನ್ನು ಅನುಸರಿಸಲು ಭೌತಿಕವಾಗಿ ಸಾಧ್ಯವಾಗಬಾರದು. ಇದು ರೋಬೋಟಿಕ್ ಕೈಗಳ ಮೇಲಿನ ಟಾರ್ಕ್ ಮಿತಿಗಳು, ಡ್ರೋನ್ಗಳಿಗಾಗಿ ಜಿಯೋಫೆನ್ಸಿಂಗ್ ಅಥವಾ ನೆಲದ ವಾಹನಗಳಿಗಾಗಿ ಕಡ್ಡಾಯ ಬ್ರೇಕಿಂಗ್ ಕಾರಿಡಾರ್ಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. ಕೇವಲ ಒಂದು ಮಾಡೆಲ್ ದೋಷವು ನಿಯಂತ್ರಣವಿಲ್ಲದ ಭೌತಿಕ ಘಟನೆಯಾಗಿ ಪರಿಣಮಿಸದಂತೆ ತಡೆಯಲು ಸ್ವಾಯತ್ತ ವ್ಯವಸ್ಥೆಗೆ ವಾಸ್ತುಶಿಲ್ಪದ ಪದರಗಳ (architectural layers) ಅಗತ್ಯವಿದೆ.
ಅನಿಶ್ಚಿತತೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುವ ವಿಧಾನಗಳು. ಮಷೀನ್ ಲರ್ನಿಂಗ್ನಲ್ಲಿ ಅನಿಶ್ಚಿತತೆಯು ವಿವಿಧ ರೂಪಗಳಲ್ಲಿ ಬರುತ್ತದೆ. ಸೆನ್ಸರ್ ರೀಡಿಂಗ್ಗಳು ಅಥವಾ ಪರಿಸರದಲ್ಲಿರುವ ಅಂತರ್ಗತ ಶಬ್ದದಿಂದ ಉಂಟಾಗುವ ಅಲಿಯಾಟರಿಕ್ ಅನಿಶ್ಚಿತತೆ (aleatoric uncertainty) ಮತ್ತು ಮಾಡೆಲ್ಗೆ ಇನ್ನೂ ತಿಳಿಯದ ವಿಷಯಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವ ಎಪಿಸ್ಟೆಮಿಕ್ ಅನಿಶ್ಚಿತತೆ (epistemic uncertainty) ಇವೆ. AMLAS ಇವೆರಡನ್ನೂ ಅಳೆಯುವ ಮತ್ತು ನಿರ್ವಹಿಸುವ ಅಭ್ಯಾಸಗಳನ್ನು ಪ್ರೋತ್ಸಾಹಿಸುತ್ತದೆ. ಎನ್ಸಂಬಲ್ ವಿಧಾನಗಳು (ensemble methods) - ಇಲ್ಲಿ ಹಲವಾರು ಮಾಡೆಲ್ಗಳು ಅಸಮ್ಮತಿಯನ್ನು ಎಚ್ಚರಿಕೆ ಸಂಕೇತವಾಗಿ ನೀಡುತ್ತವೆ, ಅಥವಾ ಅಸ್ತವ್ಯಸ್ತ ನಡವಳಿಕೆಯನ್ನು ಉಂಟುಮಾಡುವ ಡೇಟಾವನ್ನು ತಿರಸ್ಕರಿಸುವ ಇನ್ಪುಟ್ ವ್ಯಾಲಿಡೇಶನ್ ಪದರಗಳು ಇಂತಹ ತಂತ್ರಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು. ನೀವು ಅನಿಶ್ಚಿತತೆಯನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಹೋಗಲಾಡಿಸಲು ಸಾಧ್ಯವಾಗದಿರಬಹುದು, ಆದರೆ ಅನಿಶ್ಚಿತತೆಯ ಆಧಾರದ ಮೇಲೆ ವ್ಯವಸ್ಥೆಯು ಕುರುಡಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸದಂತೆ ತಡೆಯಬಹುದು.
ನಂಬಿಕೆಯನ್ನು ಬೆಳೆಸಲು ಒಂದು ಪ್ರಾಯೋಗಿಕ ಹಾದಿ
ತಂಡಗಳು ಅವುಗಳನ್ನು ಪ್ರಾಯೋಗಿಕವಾಗಿ ಅಳವಡಿಸಿಕೊಂಡಾಗ ಮಾತ್ರ ಈ ಚೌಕಟ್ಟುಗಳು ಮಹತ್ವ ಪಡೆಯುತ್ತವೆ. ಸಂಸ್ಥೆಗಳು ಶಿಸ್ತುಬದ್ಧ ಅನುಕ್ರಮವನ್ನು ಅನುಸರಿಸಿದಾಗ AMLAS ಅತ್ಯುತ್ತಮವಾಗಿ ಕಾರ್ಯರೂಪಕ್ಕೆ ಬರುತ್ತದೆ.
ನೀವು ಒಂದೇ ಒಂದು ಡೇಟಾಸೆಟ್ ಅನ್ನು ಸಂಗ್ರಹಿಸುವ ಮೊದಲು ನಿಮ್ಮ ಸುರಕ್ಷತಾ ಗುರಿಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಿ. ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್ವೇರ್ ಎಂಜಿನಿಯರಿಂಗ್ನಲ್ಲಿ, ಅವಶ್ಯಕತೆಗಳು (requirements) ಮೊದಲು ಬರುತ್ತವೆ. ಮಷೀನ್ ಲರ್ನಿಂಗ್ ಯೋಜನೆಗಳು ಹೆಚ್ಚಾಗಿ ಇದನ್ನು ಉಲ್ಟಾ ಮಾಡುತ್ತವೆ, ಅಂದರೆ ಮಾಡೆಲ್ ತರಬೇತಿ ನೀಡಿದ ನಂತರ ಸುರಕ್ಷತೆಯನ್ನು ಪರಿಹರಿಸಬೇಕಾದ ಸಮಸ್ಯೆಯಾಗಿ ಪರಿಗಣಿಸುತ್ತವೆ. ಆ ಅಭ್ಯಾಸವನ್ನು ಬದಲಿಸಿ. ಸ್ಪಷ್ಟವಾದ operational design domain ನೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ. ಯಾವ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಸಿಸ್ಟಮ್ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ? ಪ್ರತಿಯೊಂದು ಅಪಾಯಕ್ಕೆ ಸಹನೀಯ ವೈಫಲ್ಯದ ದರ ಎಂದರೆ ಏನು? ಯಾವ ವೈಫಲ್ಯಗಳಿಗೆ ತಕ್ಷಣದ ಮಾನವ ಹಸ್ತಕ್ಷೇಪದ ಅಗತ್ಯವಿದೆ? ಈ ಪ್ರಶ್ನೆಗಳಿಗೆ ಮೊದಲೇ ಉತ್ತರಿಸುವುದು ಡೇಟಾ ಸಂಗ್ರಹಣೆಯಿಂದ ಮಾಡೆಲ್ ಆರ್ಕಿಟೆಕ್ಚರ್ ವರೆಗೆ ಎಲ್ಲವನ್ನೂ ರೂಪಿಸುತ್ತದೆ.
ನೈಜ ಕಾರ್ಯಾಚರಣೆಯ ಗೊಂದಲಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವ ಡೇಟಾ ಬಳಸಿ ನಿಮ್ಮ ಮಾಡೆಲ್ಗಳನ್ನು ಪರೀಕ್ಷಿಸಿ. ಲ್ಯಾಬ್ ಬೆಂಚ್ಮಾರ್ಕ್ಗಳು ಆರಾಮದಾಯಕವಾಗಿರಬಹುದು, ಆದರೆ ಅವು ಸುಳ್ಳು ಹೇಳುತ್ತವೆ. ಕೇವಲ ಪರಿಶುದ್ಧವಾದ ಬಾರ್ಕೋಡ್ ಚಿತ್ರಗಳ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದ ವೇರ್ಹೌಸ್ ರೋಬೋಟ್, ಲೇಬಲ್ಗಳು ಸುಕ್ಕುಗಟ್ಟಿದ್ದರೆ, ಬೆಳಕು ಕಡಿಮೆ ಇದ್ದರೆ ಅಥವಾ ಕೊಳಕಿನಿಂದ ಅಡ್ಡಗಟ್ಟಿದ್ದರೆ ವಿಫಲವಾಗುತ್ತದೆ. ಕೇವಲ ಉತ್ತಮ ಹವಾಮಾನದಲ್ಲಿ ಪರೀಕ್ಷಿಸಲಾದ ಸ್ವಯಂಚಾಲಿತ ಡ್ರೋನ್, ಬೆಳಕಿನ ಚಕಮಕಿ ಮತ್ತು ಗಾಳಿಯ ವೇಗದೊಂದಿಗೆ ಹೋರಾಡಬೇಕಾಗುತ್ತದೆ. ನಿಮಗೆ ನೈಜ ನಿಯೋಜಿತ ಪರಿಸರಗಳಿಂದ (deployment environments) ಲಾಗ್ಗಳು ಬೇಕು, ಇದರಲ್ಲಿ ಕ್ಯುರೇಟೆಡ್ ಡೇಟಾಸೆಟ್ಗಳಲ್ಲಿ ಎಂದಿಗೂ ಕಾಣಿಸಿಕೊಳ್ಳದ ಕಷ್ಟಕರವಾದ ಎಡ್ಜ್ ಕೇಸ್ಗಳು (edge cases) ಕೂಡ ಇರಬೇಕು. ಶ್ಯಾಡೋ ಮೋಡ್ ಪ್ರಯೋಗಗಳನ್ನು (shadow mode trials) ನಡೆಸಿ, ಅಲ್ಲಿ ಸ್ವಯಂಚಾಲಿತ ಸಿಸ್ಟಮ್ ಮಾನವ ನಿರ್ವಾಹಕರೊಂದಿಗೆ ಸಮಾನಾಂತರವಾಗಿ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ ಆದರೆ ಇನ್ನೂ ಹಾರ್ಡ್ವೇರ್ ಅನ್ನು ನಿಯಂತ್ರಿಸುವುದಿಲ್ಲ. ಲಾಗ್ಗಳನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿ ಹೋಲಿಸಿ.
ನಿಯೋಜನೆಯ ನಂತರ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ನಿರಂತರವಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ. ಜಗತ್ತು ಸ್ಥಿರವಾಗಿಲ್ಲ. ಕಾಲೋಚಿತ ಬೆಳಕಿನ ಬದಲಾವಣೆಗಳು, ಸವಿದ ರಸ್ತೆ ಮೇಲ್ಮೈಗಳು, ಹೊಸ ಪ್ಯಾಕೇಜಿಂಗ್ ವಿನ್ಯಾಸಗಳು ಮತ್ತು ಬದಲಾಗುತ್ತಿರುವ ನೆಟ್ವರ್ಕ್ ಟ್ರಾಫಿಕ್ ಮಾದರಿಗಳು ಒಮ್ಮೆ ಅದ್ಭುತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಿದ ಮಾಡೆಲ್ ಅನ್ನು ಕುಸಿಯುವಂತೆ ಮಾಡಬಹುದು. ಮುನ್ಸೂಚನೆಯ ವಿಶ್ವಾಸಾರ್ಹತೆ (prediction confidence), ಇನ್ಪುಟ್ ಡಿಸ್ಟ್ರಿಬ್ಯೂಷನ್ ಡ್ರಿಫ್ಟ್ ಮತ್ತು ಘಟನೆಗಳ ದರವನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡುವ ಟೆಲಿಮೆಟ್ರಿಯನ್ನು (telemetry) ಸ್ಥಾಪಿಸಿ. ವರ್ತನೆಯಲ್ಲಿ ಬದಲಾವಣೆಯಾದಾಗ ಮಾನವ ವಿಮರ್ಶೆ ಅಥವಾ ತಾತ್ಕಾಲಿಕ ಕಾರ್ಯಾಚರಣೆಯ ನಿರ್ಬಂಧಗಳನ್ನು ಪ್ರಚೋದಿಸುವ ಮಿತಿಯನ್ನು (thresholds) ನಿಗದಿಪಡಿಸಿ. ಮಾಡೆಲ್ ಎಂಬುದು ನೀವು ಕಳುಹಿಸಿ ಮರೆತುಬಿಡುವ ಸ್ಥಿರ ಉತ್ಪನ್ನವಲ್ಲ. ಅದು ನೈಜ ಪ್ರಪಂಚವನ್ನು ಎದುರಿಸಿದ ಕ್ಷಣವೇ ಹಳೆಯದಾಗುವ ಒಂದು ಘಟಕವಾಗಿದೆ.
ನೈಜ-ಪ್ರಪಂಚದ ವ್ಯಾಲಿಡೇಶನ್ ಬಗ್ಗೆ ಕಠಿಣ ಸತ್ಯ
ಹೆಚ್ಚಿನ ತಂಡಗಳು ಹೆಚ್ಚಿನ ವ್ಯಾಲಿಡೇಶನ್ ಸ್ಕೋರ್ ಸಿದ್ಧತೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ ಎಂದು ತಮ್ಮನ್ನು ತಾವು ನಂಬಿಕೊಳ್ಳುತ್ತವೆ. ಅದು ನಿಜವಲ್ಲ. ನೈಜ-ಪ್ರಪಂಚದ ವ್ಯಾಲಿಡೇಶನ್ಗೆ ಅಸಮಾಧಾನವನ್ನು ಸ್ವೀಕರಿಸುವುದು ಅಗತ್ಯ. ಅಂದರೆ ಗಾಳಿಯ ವೇಗ ಹೆಚ್ಚಿರುವ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಡ್ರೋನ್ಗಳನ್ನು ಹಾರಿಸುವುದು, ಬಲ್ಬ್ಗಳು ಮಿನುಗುತ್ತಿರುವಾಗ ರಾತ್ರಿಯ ಶಿಫ್ಟ್ನಲ್ಲಿ ವೇರ್ಹೌಸ್ ರೋಬೋಟ್ಗಳನ್ನು ಚಲಾಯಿಸುವುದು ಮತ್ತು ಪರ್ಸೆಪ್ಶನ್ ಮಾಡೆಲ್ಗಳನ್ನು ರಸ್ತೆ ಚಿಹ್ನೆಗಳ ಮೇಲಿನ ಅಡ್ವರ್ಸೇರಿಯಲ್ ಸ್ಟಿಕ್ಕರ್ಗಳಿಗೆ ಒಡ್ಡಿಕೊಳ್ಳುವುದು ಎಂದರ್ಥ. ನಿಮ್ಮ ಪರೀಕ್ಷಾ ಪರಿಸರವು ಅಚ್ಚುಕಟ್ಟಾಗಿ ಮತ್ತು ಮುನ್ಸೂಚನೆ ನೀಡಬಲ್ಲದಾಗಿದ್ದರೆ, ನೀವು ಪರೀಕ್ಷಿಸುತ್ತಿಲ್ಲ ಎಂದರ್ಥ. ನೀವು ಕೇವಲ ಅಭ್ಯಾಸ ಮಾಡುತ್ತಿದ್ದೀರಿ.
ಈ ಪ್ರಕ್ರಿಯೆಯು ದುಬಾರಿ ಮತ್ತು ನಿಧಾನವಾಗಿದೆ. ಇದು ಮಷೀನ್ ಲರ್ನಿಂಗ್ ಎಂಜಿನಿಯರ್ಗಳು, ಸುರಕ್ಷತಾ ತಜ್ಞರು ಮತ್ತು ಭೌತಿಕ ಪರಿಸರವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಡೊಮೇನ್ ಆಪರೇಟರ್ಗಳ ನಡುವಿನ ಸಹಯೋಗವನ್ನು ಬಯಸುತ್ತದೆ. ಇದರ ಪ್ರತಿಫಲ là ಸಾಕ್ಷ್ಯಗಳ ಸಂಗ್ರಹ. ನೀವು ಅಂತಿಮವಾಗಿ ನಿಯೋಜಿಸಿದಾಗ, ನಿರ್ದಿಷ್ಟ ಪರೀಕ್ಷಾ ಪರಿಸ್ಥಿತಿಗಳು, ತಿಳಿದಿರುವ ವೈಫಲ್ಯದ ವಿಧಾನಗಳು ಮತ್ತು ಪ್ರತಿಯೊಂದು ಅಪಾಯಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ಮಿತಿಗತಿಗಳನ್ನು (mitigations) ನೀವು ತೋರಿಸಲು ಸಾಧ್ಯವಾಗಬೇಕು. ಆ ದಾಖಲಾತಿಯೇ ಒಂದು ಪ್ರೊಟೊಟೈಪ್ ಅನ್ನು ಮಾನವರ ಸಮೀಪ ಮೇಲ್ವಿಚಾರಣೆಯಿಲ್ಲದೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ನೀವು ಸಿದ್ಧರಿರುವ ಸಿಸ್ಟಮ್ನಿಂದ ಪ್ರತ್ಯೇಕಿಸುತ್ತದೆ.
ಕಾಲಾನಂತರದಲ್ಲಿ ಸಿಸ್ಟಮ್ಗಳನ್ನು ಪ್ರಾಮಾಣಿಕವಾಗಿ ಇರಿಸಿಕೊಳ್ಳುವುದು
ನಿಯೋಜನೆಯ ನಂತರದ ಮೇಲ್ವಿಚಾರಣೆಯು ಅನೇಕ ಅಶ್ಯೂರೆನ್ಸ್ ಪ್ರೋಗ್ರಾಂಗಳು ಮೌನವಾಗಿ ವಿಫಲವಾಗುವ ಸ್ಥಳವಾಗಿದೆ. ತಂಡಗಳು ಉದ್ಘಾಟನೆಯನ್ನು ಸಂಭ್ರಮಿಸುತ್ತವೆ ಮತ್ತು ಮುಂದಿನ ಫೀಚರ್ಗೆ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಮರುಹಂಚಿಕೆ ಮಾಡುತ್ತವೆ. ಈ ಮಧ್ಯೆ, ನಿಯೋಜಿತ ಮಾಡೆಲ್ ತನ್ನ ತರಬೇತಿ ಅನುಭವದಿಂದ ಸೂಕ್ಷ್ಮವಾಗಿ ವಿಭಿನ್ನವಾಗುವ ಇನ್ಪುಟ್ಗಳ ಪ್ರವಾಹವನ್ನು ಎದುರಿಸುತ್ತದೆ. ಸಕ್ರಿಯ ಮೇಲ್ವಿಚಾರಣೆ ಇಲ್ಲದೆ, ಈ ಡ್ರಿಫ್ಟ್ ಗಂಭೀರ ಘಟನೆಯು ಪ್ರತಿಕ್ರಿಯಾತ್ಮಕ ತನಿಖೆಯನ್ನು ಒತ್ತಾಯಿಸುವವರೆಗೆ ಸಂಗ್ರಹವಾಗುತ್ತದೆ.
ರಚನಾತ್ಮಕ ಫೀಡ್ಬ್ಯಾಕ್ ಲೂಪ್ಗಳನ್ನು ಸ್ಥಾಪಿಸಿ. ಮಾಡೆಲ್ ಕಡಿಮೆ ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ವ್ಯಕ್ತಪಡಿಸುವ ಅಥವಾ ಮಾನವ ನಿರ್ವಾಹಕರು ಮಧ್ಯಪ್ರವೇಶಿಸುವ ಪ್ರತಿಯೊಂದು ಸಂದರ್ಭವನ್ನು ಲಾಗ್ ಮಾಡಿ. ಈ ಲಾಗ್ಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಮಾಡೆಲ್ ಅನ್ನು ನಿಯಮಿತವಾಗಿ ಮರುತರಬೇತಿಗೊಳಿಸಲು ಅಥವಾ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲು ಬಳಸಿ, ಆದರೆ ಪ್ರತಿ ಅಪ್ಡೇಟ್ ಅನ್ನು ಮೂಲ ಬಿಡುಗಡೆಗೆ ಅನ್ವಯಿಸಿದ ಅದೇ ಅಶ್ಯೂರೆನ್ಸ್ ಗೇಟ್ಗಳ ಮೂಲಕ ವ್ಯಾಲಿಡೇಟ್ ಮಾಡಿ. ಯಾಂತ್ರಿಕ ಬ್ರೇಕ್ ಸಿಸ್ಟಮ್ ಅನ್ನು ಹೊಸ ವಿನ್ಯಾಸಕ್ಕೆ ಬದಲಾಯಿಸುವಾಗ ನೀವು ಬಳಸುವ ಅದೇ ಎಚ್ಚರಿಕೆಯನ್ನು ಮಾಡೆಲ್ ಅಪ್ಡೇಟ್ಗಳಿಗೂ ಅನ್ವಯಿಸಿ.
ನಿಜವಾದ ಸಾರಾಂಶ
ಸ್ವಯಂಚಾಲಿತ ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿನ ಮಷೀನ್ ಲರ್ನಿಂಗ್ ಎಂಬುದು ಕೇವಲ ಸಂಶೋಧನಾ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಅಲ್ಲ. ಇದು ಭೌತಿಕ ಅಪಾಯವನ್ನು ಹೊರುವ ಮೂಲಸೌಕರ್ಯವಾಗಿದೆ ಮತ್ತು ಏರೋಸ್ಪೇಸ್ ಮತ್ತು ಮೆಡಿಕಲ್ ಡಿವೈಸ್ ಎಂಜಿನಿಯರ್ಗಳು ಹಾರ್ಡ್ವೇರ್ಗೆ ಅನ್ವಯಿಸುವಷ್ಟೇ ಕಟ್ಟುನಿಟ್ಟಾದ ಕ್ರಮವನ್ನು ಇದು ಬಯಸುತ್ತದೆ. AMLAS ಆ ಕಟ್ಟುನಿಟ್ಟಿನ ಕ್ರಮಕ್ಕಾಗಿ ಒಂದು ಶಬ್ದಕೋಶ ಮತ್ತು ಕಾರ್ಯವಿಧಾನವನ್ನು ನೀಡುತ್ತದೆ. ಇದು ನಿಮಗಾಗಿ ನಂಬಿಕೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸುವುದಿಲ್ಲ, ಆದರೆ ಅದನ್ನು ಗಳಿಸಲು ನಿಮಗೆ ಪುನರಾವರ್ತಿತ ಮಾರ್ಗವನ್ನು ನೀಡುತ್ತದೆ. ಪ್ರಾಮಾಣಿಕ ಸುರಕ್ಷತಾ ಗುರಿಗಳೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ. ಅಸಮರ್ಪಕ ಮತ್ತು ನೈಜ ಡೇಟಾ ಬಳಸಿ ವ್ಯಾಲಿಡೇಟ್ ಮಾಡಿ. ಸಿಸ್ಟಮ್ ಲೈವ್ ಆದ ನಂತರ ಅದನ್ನು ಸಂಶಯಾಸ್ಪದರಂತೆ ಗಮನಿಸಿ. ಚೌಕಟ್ಟುಗಳು ಅಸ್ತಿತ್ವದಲ್ಲಿವೆ. ಉಳಿದದ್ದು ಶಿಸ್ತು.
AMLAS ಮಾರ್ಗದರ್ಶನದ ಸಂಪೂರ್ಣ ತಾಂತ್ರಿಕ ವಿವರಗಳಿಗಾಗಿ, ಇಲ್ಲಿ ಮೂಲ ವಿವರಗಳನ್ನು ಓದಿ: https://dev.to/paperium/guidance-on-the-assurance-of-machine-learning-in-autonomous-systems-amlas-f9
ನೀವು ಅಶ್ಯೂರೆನ್ಸ್ ಸ್ಟ್ರಾಟಜಿಗಳ ಬಗ್ಗೆ ಚರ್ಚಿಸಲು ಮತ್ತು ಇದೇ ರೀತಿಯ ಸಮಸ್ಯೆಗಳ ಮೇಲೆ ಕೆಲಸ ಮಾಡುತ್ತಿರುವ ಸಮುದಾಯದೊಂದಿಗೆ ಪ್ರಾಯೋಗಿಕ ಟಿಪ್ಪಣಿಗಳನ್ನು ವಿನಿಮಯ ಮಾಡಿಕೊಳ್ಳಲು ಬಯಸಿದರೆ, ಇಲ್ಲಿ ಸಂಭಾಷಣೆಯಲ್ಲಿ ಭಾಗವಹಿಸಿ: https://t.me/GyaanSetuAi