𝗧𝗵𝗲 𝗔𝗳𝘁𝗲𝗿𝗺𝗮𝗿𝗸𝗲𝘁 𝗗𝗶𝗮𝗴𝗻𝗼𝘀𝗶𝘀
ಜೆನ್ ಈಸ್ಟರ್ಲಿ ಇತ್ತೀಚೆಗೆ ಸೈಬರ್ ಸುರಕ್ಷತೆಯ (cybersecurity) ಬಗ್ಗೆ ಒಂದು ಚುರುಕಾದ ರೋಗನಿರ್ಣಯವನ್ನು ಹಂಚಿಕೊಂಡಿದ್ದಾರೆ. ನಮಗೆ ಸೈಬರ್ ಸುರಕ್ಷತೆಯ ಸಮಸ್ಯೆಯಿಲ್ಲ, ನಮಗೆ ಸಾಫ್ಟ್ವೇರ್ ಗುಣಮಟ್ಟದ ಸಮಸ್ಯೆಯಿದೆ ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
ಎಂದಿಗೂ ಇರಬಾರದಲ್ಲಿದ್ದ ದೋಷಗಳನ್ನು ಸರಿಪಡಿಸಲು ಒಂದು ಇಡೀ ಉದ್ಯಮವನ್ನೇ ಕಟ್ಟಲು ನಾವು ದಶಕಗಳ ಕಾಲ ವ್ಯಯಿಸುತ್ತಿದ್ದೇವೆ.
ಸುರಕ್ಷತೆಯನ್ನು 'ಅಪ್ಸ್ಟ್ರೀಮ್' (upstream) ಗೆ ಕೊಂಡೊಯ್ಯುವುದು ನಮ್ಮ ಗುರಿಯಾಗಬೇಕು. ನಾವು ಆರಂಭದಿಂದಲೇ ಕೋಡ್ನಲ್ಲಿ ಸುರಕ್ಷತೆಯನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಬೇಕು. ಅದನ್ನು ನಂತರದ ಹಂತದಲ್ಲಿ ಕಡ್ಡಾಯವಾಗಿ ಸೇರಿಸುವಂತಾಗಬಾರದು.
ಅವರ ರೋಗನಿರ್ಣಯ ಸರಿಯಾಗಿದೆ. ಆದರೆ ಅವರ ಪರಿಹಾರ (prescription) ತಪ್ಪಾಗಿದೆ.
Anthropic ನ Project Glasswing ನಂತಹ ಪರಿಕರಗಳು ದುರ್ಬಲತೆಗಳನ್ನು (vulnerabilities) ಪತ್ತೆಹಚ್ಚುತ್ತವೆ ಮತ್ತು ಅವುಗಳನ್ನು ಸರಿಪಡಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತವೆ. ಇದು ವೇಗವಾಗಿದೆ. ಇದು ಅಗ್ಗವಾಗಿದೆ. ಇದು ಉತ್ತಮವಾಗಿದೆ.
ಆದರೆ ಇದು ಇನ್ನೂ ಒಂದು ಆಫ್ಟರ್ಮಾರ್ಕೆಟ್ ಪರಿಹಾರವೇ ಆಗಿದೆ.
ಬಗ್ ಅನ್ನು ವೇಗವಾಗಿ ಪತ್ತೆಹಚ್ಚುವುದು ಎಂದರೆ ಅದು ಬಗ್ ಪತ್ತೆಹಚ್ಚಿದಂತೆಯೇ ಆಗಿರುತ್ತದೆ. ಅದನ್ನು ಅಗ್ಗವಾಗಿ ಸರಿಪಡಿಸುವುದು ಎಂದರೆ ಅದು ಸರಿಪಡಿಸಿದಂತೆಯೇ ಆಗಿರುತ್ತದೆ. ಆದರೆ ಆ ದುರ್ಬಲತೆಯು ಇನ್ನೂ ಅಸ್ತಿತ್ವದಲ್ಲಿದೆ. ಅದು ಸೃಷ್ಟಿಯಾಯಿತು. ಅದನ್ನು ಬಳಸಲಾಯಿತು (deployed). ನಂತರ AI ಅದನ್ನು ಪತ್ತೆಹಚ್ಚಿತು.
ಇದು ಆಫ್ಟರ್ಮಾರ್ಕೆಟ್ನ ಅಂತ್ಯವಲ್ಲ. ಇದು ಕೇವಲ ವೇಗವಾದ ಆಫ್ಟರ್ಮಾರ್ಕೆಟ್ ಮಾತ್ರ.
ನಿಜವಾದ ಅಪ್ಸ್ಟ್ರೀಮ್ ಸುರಕ್ಷತೆಯು ನಿರ್ಣಾಯಕ ನಿಯಮಗಳನ್ನು (deterministic rules) ಬಳಸುತ್ತದೆ. ಇದು ಸಂಭವನೀಯ ಮಾದರಿಗಳನ್ನು (probabilistic models) ಬಳಸುವುದಿಲ್ಲ.
ನಿಜವಾದ ಅಪ್ಸ್ಟ್ರೀಮ್ ಸುರಕ್ಷತೆಯು ಹೀಗಿರುತ್ತದೆ:
• ಕೋಡ್ ಬರೆಯುವ ಮೊದಲು ಏನನ್ನು ಸತ್ಯವಾಗಿರಬೇಕು ಎಂಬುದನ್ನು ಮನುಷ್ಯರು ಘೋಷಿಸುತ್ತಾರೆ. • ಆ ಘೋಷಣೆಯ ವಿರುದ್ಧ ಯಂತ್ರಗಳು ಪ್ರತಿಯೊಂದು ಬದಲಾವಣೆಯನ್ನು ಪರಿಶೀಲಿಸುತ್ತವೆ. • ನಿಯಮವನ್ನು ಉಲ್ಲಂಘಿಸುವ ಯಾವುದೇ ವಸ್ತುವನ್ನು ಸಿಸ್ಟಮ್ ತಿರಸ್ಕರಿಸುತ್ತದೆ.
ವಿಮಾನಯಾನ ಮತ್ತು ಪರಮಾಣು ಸ್ಥಾವರಗಳು ಹೀಗೆಯೇ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. ಪೈಲಟ್ ವಿಮಾನ ಹಾರಾಟದ ನಂತರ ತಪ್ಪುಗಳನ್ನು ಹುಡುಕುವುದಿಲ್ಲ. ವಿಮಾನದ ಕಂಪ್ಯೂಟರ್ ಹಾರಾಟದ ಸಮಯದಲ್ಲಿ ಅಸುರಕ್ಷಿತ ಸ್ಥಿತಿಗಳನ್ನು ತಡೆಯುತ್ತದೆ.
ಸಾಫ್ಟ್ವೇರ್ ವಿಷಯದಲ್ಲೂ ನಾವು ಇದನ್ನೇ ಮಾಡಬೇಕು.
ಒಂದು ದುರ್ಬಲತೆಯನ್ನು ಮುನ್ಸೂಚಿಸಬಹುದು ಎಂದಾದರೆ, ನಾವು ಅದನ್ನು ಘೋಷಿಸಬೇಕು.
• ಸಾರ್ವಜನಿಕ S3 ಬಕೆಟ್ಗಳನ್ನು ಅನುಮತಿಸಬೇಡಿ. • ದೃಢೀಕರಿಸದ (unauthenticated) API ವಿನಂತಿಗಳನ್ನು ಅನುಮತಿಸಬೇಡಿ. • ಅವಲಂಬನೆಗಳಲ್ಲಿ (dependencies) ಕಂಡುಬರುವ ತಿಳಿದಿರುವ ಗಂಭೀರ ದೋಷಗಳನ್ನು ಅನುಮತಿಸಬೇಡಿ.
ನೀವು ಈ ನಿಯಮಗಳನ್ನು ಘೋಷಿಸಿದರೆ, ಆ ದುರ್ಬಲತೆಯು ಎಂದಿಗೂ ಅಸ್ತಿತ್ವಕ್ಕೆ ಬರುವುದಿಲ್ಲ. ನೀವು ಅದನ್ನು ಹುಡುಕುವ ಅಗತ್ಯವಿಲ್ಲ. ಅದನ್ನು ಸರಿಪಡಿಸುವ (patch) ಅಗತ್ಯವಿಲ್ಲ. ಅದನ್ನು ಪತ್ತೆಹಚ್ಚಲು AI ಮೇಲೆ ಹಣ ವ್ಯಯಿಸುವ ಅಗತ್ಯವಿಲ್ಲ.
ಹೊಸ ಮತ್ತು ಅಜ್ಞಾತ ಮಾದರಿಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು AI ಅದ್ಭುತವಾಗಿದೆ. ಆದರೆ ತಿಳಿದಿರುವ ಕಾನ್ಫಿಗರೇಶನ್ ದೋಷಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು AI ಅನ್ನು ಬಳಸುವುದು ತಪ್ಪು ಪರಿಕರವನ್ನು ಬಳಸಿದಂತೆ. ನಿಮ್ಮ ಬಳಿ ಥರ್ಮಾಮೀಟರ್ ಇದ್ದಾಗ ತಾಪಮಾನವನ್ನು ಅಳೆಯಲು ಕವಿತೆಯನ್ನು ಬಳಸುವುದು ಹೇಗೆ ಇರುತ್ತದೆಯೋ, ಇದು ಹಾಗೆಯೇ ಇರುತ್ತದೆ. ಥರ್ಮಾಮೀಟರ್ ನಿಖರವಾಗಿರುತ್ತದೆ. ಕವಿತೆ ಕೇವಲ ಒಂದು ಅಭಿಪ್ರಾಯವಷ್ಟೇ.
AI ಅನ್ನು ಬಳಸಲು ಅತ್ಯುತ್ತಮ ಮಾರ್ಗವೆಂದರೆ ಅದನ್ನು 'ರಾಚೆಟ್' (ratchet) ಆಗಿ ಬಳಸುವುದು:
- AI ಹೊಸ ರೀತಿಯ ದುರ್ಬಲತೆಯನ್ನು ಪತ್ತೆಹಚ್ಚುತ್ತದೆ.
- ಮನುಷ್ಯರು ಆ ಪತ್ತೆಹಚ್ಚುವಿಕೆಯನ್ನು ಪರಿಶೀಲಿಸುತ್ತಾರೆ.
- ಆ ವರ್ಗದ ತಪ್ಪುಗಳು ಎಂದಿಗೂ ಸಂಭವಿಸದಂತೆ ಮನುಷ್ಯರು ಹೊಸ ನಿಯಮವನ್ನು ಬರೆಯುತ್ತಾರೆ.
- ಯಂತ್ರವು ಆ ನಿಯಮವನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಜಾರಿಗೆ ತರುತ್ತದೆ.
ಇದು ಪ್ರತಿದಿನವೂ AI ನ ಕೆಲಸದ ವ್ಯಾಪ್ತಿಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
ನಮಗೆ ಯಾವುದೋ ಒಂದು ಮ್ಯಾಜಿಕ್ ಪರಿಹಾರದ (silver bullet) ಅಗತ್ಯವಿಲ್ಲ. ನಮಗೆ ಘೋಷಣೆಗಳು, ಪರಿಶೀಲನೆ ಮತ್ತು ಸಂಶೋಧನೆಯ ವ್ಯವಸ್ಥೆಯ ಅಗತ್ಯವಿದೆ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi