𝗪𝗵𝗲𝗻 𝗔𝗜 𝗕𝗲𝗰𝗼𝗺𝗲𝘀 𝗔 𝗖𝘆𝗯𝗲𝗿𝘀𝗲𝗰𝘂𝗿𝗶𝘁𝘆 𝗪𝗲𝗮𝗽𝗼𝗻
Anthropic ನ Mythos ಮಾಡೆಲ್ಗಳು ಭದ್ರತಾ ಜಗತ್ತನ್ನೇ ಬದಲಿಸಿವೆ. ಅವು ಕೇವಲ ಬಗ್ಗಳನ್ನು (bugs) ವಿವರಿಸುವುದಿಲ್ಲ; ಬದಲಾಗಿ ಅಪರಿಚಿತ ಕೋಡ್ಗಳಲ್ಲಿನ ಹೊಸ ದೌರ್ಬಲ್ಯಗಳನ್ನು (vulnerabilities) ಪತ್ತೆಹಚ್ಚುತ್ತವೆ ಮತ್ತು ಅವುಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳುತ್ತವೆ (exploit).
ಈ ಸಾಮರ್ಥ್ಯವು ದಾಳಿಗಾರರು (attackers) ಮತ್ತು ರಕ್ಷಕರಿರ (defenders) ನಡುವಿನ ಸಮತೋಲನವನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ. Anthropic ಯಾವುದೇ ನಿರ್ಬಂಧಗಳಿಲ್ಲದ Mythos 5 ಮಾಡೆಲ್ ಅನ್ನು ಸಣ್ಣ ತಜ್ಞರ ಗುಂಪಿಗೆ ಮಾತ್ರ ಸೀಮಿತಗೊಳಿಸಿದೆ. ಸಾರ್ವಜನಿಕರಿಗೆ Fable 5 ಲಭ್ಯವಿದೆ. ಈ ಆವೃತ್ತಿಯು ಹೆಚ್ಚಿನ ಅಪಾಯಕಾರಿ ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ತಡೆಯುವ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು (safeguards) ಹೊಂದಿದೆ.
ಅಪಾಯವು ನಿಜವಾಗಿದೆ. ಬಗ್ಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಮಾಡೆಲ್ ಎರಡೂ ಕಡೆಯವರಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ. ರಕ್ಷಕರು ಇದನ್ನು ತಮ್ಮ ಸ್ವಂತ ಕೋಡ್ ಮೇಲೆ ಬಳಸುತ್ತಾರೆ, ಆದರೆ ದಾಳಿಗಾರರು ಇದನ್ನು ಇತರರ ಕೋಡ್ ಮೇಲೆ ಬಳಸುತ್ತಾರೆ.
ದಾಳಿಗಾರರು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಪಾಲಿಸುವುದಿಲ್ಲ. ಅವರು ಹಳೆಯ ಸ್ಮಾರ್ಟ್ ಕಾಂಟ್ರಾಕ್ಟ್ಗಳಲ್ಲಿನ ದೌರ್ಬಲ್ಯಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಈಗಲೇ ಎಐ ಅನ್ನು ಬಳಸುತ್ತಿದ್ದಾರೆ. ನೀವು ಮೌಲ್ಯಯುತವಾದ ಕೋಡ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುತ್ತಿದ್ದರೆ, ದಾಳಿಗಾರರು ನಿಮ್ಮ ದೋಷಗಳನ್ನು ಕಂಡುಹಿಡಿಯಲು ಎಐ ಅನ್ನು ಬಳಸುತ್ತಾರೆ ಎಂದು ನೀವು ಭಾವಿಸಿಕೊಳ್ಳಲೇಬೇಕು.
ಪ್ರಸ್ತುತ ರಕ್ಷಣಾ ತಂತ್ರದಲ್ಲಿ ಒಂದು ದೋಷವಿದೆ. ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಒಂದು ಕಾನೂನುಬದ್ಧ ಆಡಿಟ್ (audit) ಮತ್ತು ದಾಳಿಯ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಅಪಾಯಕಾರಿಯೆಂದು ಕಂಡುಬಂದರೆ, ಎಐ ನಿಮಗೆ ತಿಳಿಸದೆಯೇ ಕಡಿಮೆ ಗುಣಮಟ್ಟದ ಉತ್ತರವನ್ನು ನೀಡಬಹುದು. ಇದು ಸಾರ್ವಜನಿಕ ಮಾಡೆಲ್ ಅನ್ನು ರಕ್ಷಕರಿಗೆ ಅಸಮರ್ಥ ಸಾಧನವನ್ನಾಗಿ ಮಾಡುತ್ತದೆ.
ಎಐ ಇರುವುದರಿಂದ ನಾನು ಎಚ್ಚರಿಕೆಯನ್ನು ಕಡಿಮೆ ಮಾಡಿಕೊಳ್ಳುವುದಿಲ್ಲ. ಬದಲಾಗಿ ನಾನು ಹೆಚ್ಚು ವ್ಯವಸ್ಥಿತವಾಗುತ್ತೇನೆ. ನನ್ನ ವಿಧಾನ ಇಲ್ಲಿದೆ:
- ನಾನು ನನ್ನ ಸ್ವಂತ ಕೋಡ್ ಮೇಲೆ ತೀವ್ರವಾಗಿ ಎಐ ವಿಶ್ಲೇಷಣೆಯನ್ನು ನಡೆಸುತ್ತೇನೆ. ದಾಳಿಗಾರರಿಗಿಂತ ಮೊದಲೇ ನಾನು ಬಗ್ಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಬಯಸುತ್ತೇನೆ.
- ಹಳೆಯ ಅಥವಾ ಪರಿಶೀಲಿಸದ ಕಾಂಟ್ರಾಕ್ಟ್ಗಳನ್ನು ನಾನು ಹೆಚ್ಚಿನ ಅಪಾಯವೆಂದು ಪರಿಗಣಿಸುತ್ತೇನೆ. ಸ್ವಯಂಚಾಲಿತ ಪರಿಕರಗಳು (automated tools) ಮೊದಲು ಇವುಗಳನ್ನೇ ಗುರಿಯಾಗಿಸುತ್ತವೆ.
- ಎಐ ನೀಡುವ 'ಪರಿಶುದ್ಧತೆ ಪ್ರಮಾಣಪತ್ರ'ವನ್ನು (clean bill of health) ನಾನು ಎಂದಿಗೂ ನಂಬುವುದಿಲ್ಲ. ಮಾಡೆಲ್ಗಳು ಕೆಲವು ವಿಷಯಗಳನ್ನು ಮಿಸ್ ಮಾಡಿಕೊಳ್ಳುವುದರಿಂದ, ನಾನು ಇಂದಿಗೂ ಮ್ಯಾನುಯಲ್ ರಿವ್ಯೂಗಳನ್ನು (manual reviews) ಮಾಡುತ್ತೇನೆ.
ಎಐ ಭದ್ರತಾ ಕೆಲಸವನ್ನು ಅಪ್ರಸ್ತುತಗೊಳಿಸುವುದಿಲ್ಲ. ಬದಲಾಗಿ ಇದು ಗುಣಮಟ್ಟದ ಮಾನದಂಡವನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ. ದಾಳಿಗಾರರು ಈಗಾಗಲೇ ನಿಮ್ಮ ಕೋಡ್ ಮೇಲೆ ಮಾಡೆಲ್ ಅನ್ನು ರನ್ ಮಾಡಿದ್ದಾರೆ ಎಂದು ನೀವು ಭಾವಿಸಿಕೊಳ್ಳಲೇಬೇಕು.
ಎಐ ಬಳಸಲು ನಿರಾಕರಿಸುವ ಆಡಿಟರ್ disadvantage (ಅನಾನುಕೂಲತೆಯನ್ನು) ಎದುರಿಸುತ್ತಾರೆ. ನೀವು ಎಐ ಸಜ್ಜುಗೊಂಡ ದಾಳಿಗಾರರನ್ನು ಎಐ ಸಜ್ಜುಗೊಂಡ ರಕ್ಷಣೆಯೊಂದಿಗೆ ಎದುರಿಸಲೇಬೇಕು. ನಿಮ್ಮ ಸ್ವಂತ ಕೋಡ್ ಮೇಲೆ ಪರಿಕರಗಳನ್ನು ಬಳಸಿ, ಅವುಗಳ ಮಿತಿಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಿ ಮತ್ತು ನಿಮ್ಮ ಮಾನವ ನಿರ್ಧಾರವನ್ನು (human judgment) ಉಳಿಸಿಕೊಳ್ಳಿ.
ಭಯದಿಂದ ಪ್ರತಿಕ್ರಿಯಿಸಬೇಡಿ. ಬದಲಾಗಿ, ನಿಮ್ಮ ಸ್ವಂತ ಬಗ್ಗಳನ್ನು ಮೊದಲು ಪತ್ತೆಹಚ್ಚಲು ಈ ಪರಿಕರಗಳನ್ನು ಬಳಸಿ ಸನ್ನದ್ಧರಾಗಿರಿ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi