ನಿಮ್ಮ AI ಸುರಕ್ಷತಾ ನೀತಿಗಳು ಸರಿಯಾಗಿವೆ. ನಿಮ್ಮ Architecture ಸರಿಯಿಲ್ಲ.
ನಿಮ್ಮ ಬಳಿ AI ಸುರಕ್ಷತಾ ನೀತಿಗಳಿವೆ. ನಿಯಮಗಳಿವೆ. ಪರೀಕ್ಷೆಗಳಿವೆ. ಆದರೆ ನಿಮ್ಮ architecture ಈ ನಿಯಮಗಳನ್ನು ಜಾರಿಗೆ ತರುವುದಿಲ್ಲ.
AI ಅಪಾಯವು ವಿಭಿನ್ನವಾಗಿ ಚಲಿಸುತ್ತದೆ. ಅದು ಒಂದೇ ಕಡೆ ಇರುವುದಿಲ್ಲ. ಹಳೆಯ ಪರಿಕರಗಳು ಒಂದು ಹಾದಿಯನ್ನು ಮಾತ್ರ ಪರಿಶೀಲಿಸುತ್ತವೆ. ಅವು ಸಂಪೂರ್ಣ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯನ್ನು (execution) ಗಮನಿಸುವುದಿಲ್ಲ. AI ಅಪಾಯವು ಸಾಮಾನ್ಯ ಕೆಲಸದಂತೆಯೇ ಕಾಣುತ್ತದೆ.
Samsung ಒಂದು ಪಾಠವನ್ನು ಕಲಿಸುತ್ತದೆ. ಯಾರೂ ಅವರನ್ನು ಹ್ಯಾಕ್ ಮಾಡಲಿಲ್ಲ. ಪರಿಕರವು (tool) ಸರಿಯಾಗಿ ಕೆಲಸ ಮಾಡಿತು. ಡೇಟಾ ಮುಂಭಾಗದ ಬಾಗಿಲಿನ ಮೂಲಕವೇ ಹೊರಹೋಗಿಬಿಟ್ಟಿತು.
ನೀವು runtime ಮೇಲೆ ಗಮನ ಹರಿಸಬೇಕು. Runtime ಎಂಬುದು ವರ್ತನೆಗಳು (behavior) ಸಂಭವಿಸುವ ಸ್ಥಳವಾಗಿದೆ.
- ಒಂದು ಪ್ರಾಂಪ್ಟ್ (prompt) ಒಂದು ಪರಿಕರವನ್ನು (tool) ಕರೆಯುತ್ತದೆ.
- ಒಂದು ಪರಿಕರವು ಡೇಟಾವನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ.
- ಒಂದು ರೆಕಾರ್ಡ್ ವರ್ಕ್ಫ್ಲೋವನ್ನು (workflow) ಪ್ರಚೋದಿಸುತ್ತದೆ.
ಎಚ್ಚರಿಕೆ (alert) ಬರುವುದು ತುಂಬಾ ತಡವಾಗುತ್ತದೆ.
ನಿಮ್ಮ ನಿಯಂತ್ರಣಗಳನ್ನು (controls) ಎಕ್ಸಿಕ್ಯೂಷನ್ ಪಾತ್ (execution path) ಗೆ ವರ್ಗಾಯಿಸಿ. ಮಾದರಿ (model) ಏನು ಔಟ್ಪುಟ್ ನೀಡುತ್ತದೆ ಎಂದು ಕೇಳುವುದನ್ನು ನಿಲ್ಲಿಸಿ. ಮಾದರಿ ಯಾವುದನ್ನು ತಲುಪುತ್ತದೆ (reaches) ಎಂದು ಕೇಳಿ.
ನಿಮ್ಮ ಸುರಕ್ಷತೆಯನ್ನು 'reach' ಸುತ್ತ ನಿರ್ಮಿಸಿ.