Imagine you are a senior application security engineer at a financial services firm. You feed a snippet of internally de

ನೀವು ಒಂದು ಹಣಕಾಸು ಸೇವಾ ಸಂಸ್ಥೆಯಲ್ಲಿ ಹಿರಿಯ ಅಪ್ಲಿಕೇಶನ್ ಸೆಕ್ಯೂರಿಟಿ ಇಂಜಿನಿಯರ್ ಎಂದು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ. ನೀವು ಆಂತರಿಕವಾಗಿ ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಅಥೆಂಟಿಕೇಶನ್ ಕೋಡ್‌ನ ಒಂದು ಭಾಗವನ್ನು ಮುಂಚೂಣಿಯ AI ಮಾಡೆಲ್‌ಗೆ ನೀಡಿ, ಅದರಲ್ಲಿರುವ ತರ್ಕದ ದೋಷಗಳನ್ನು (logic flaws) ಗುರುತಿಸಲು ಕೇಳುತ್ತೀರಿ. ವಿಶ್ಲೇಷಣೆಯ ಬದಲಿಗೆ, ನೀವು ಉಪದೇಶವನ್ನು ಪಡೆಯುತ್ತೀರಿ. "ನೀವು ಈ ಮಾಹಿತಿಯನ್ನು ಸಿಸ್ಟಮ್ ಅನ್ನು ಎಕ್ಸ್‌ಪ್ಲೋಯಿಟ್ ಮಾಡಲು ಬಳಸಬಹುದು" ಎಂಬ ಕಾರಣ ನೀಡಿ ಮಾಡೆಲ್ ನಿರಾಕರಿಸುತ್ತದೆ. ನೀವು ಅಪರಾಧಿಯಲ್ಲ. ನೀವು ಅಪರಾಧಿಗಳನ್ನು ತಡೆಯಲು ನೇಮಕಗೊಂಡ ವ್ಯಕ್ತಿ. ಆದರೂ, ಗಾರ್ಡ್‌ರೈಲ್ ಎರಡೂ ಪಾತ್ರಗಳನ್ನು ವಿಭಿನ್ನವಾಗಿ ನೋಡಲು ವಿಫಲವಾಗುತ್ತದೆ.

ಈ ಸನ್ನಿವೇಶವು ಈಗ ದಿನನಿತ್ಯದ ಘಟನೆಯಾಗುತ್ತಿದೆ. ದುರುಪಯೋಗವನ್ನು ತಡೆಯಲು ದೊಡ್ಡ AI ಪ್ರಯೋಗಾಲಯಗಳು ಸುರಕ್ಷತಾ ಪ್ರೋಟೋಕಾಲ್‌ಗಳನ್ನು ಬಿಗಿಗೊಳಿಸುತ್ತಿದ್ದಂತೆ, ಅವುಗಳು ಕಾನೂನುಬದ್ಧ ಸೈಬರ್ ಸೆಕ್ಯೂರಿಟಿ ವೃತ್ತಿಪರರ ಕೆಲಸದ ಹರಿವಿನೊಂದಿಗೆ ನೇರವಾಗಿ ಸಂಘರ್ಷಿಸುತ್ತಿವೆ. ಇದರ ಪರಿಣಾಮವಾಗಿ ಒಂದು ಬೆಳೆಯುತ್ತಿರುವ ವಿರೋಧಾಭಾಸ ಉಂಟಾಗುತ್ತಿದೆ: ಸಾಫ್ಟ್‌ವೇರ್ ಎಂಜಿನಿಯರಿಂಗ್ ಅನ್ನು ವೇಗಗೊಳಿಸುವ ಸಾಧನಗಳೆಂದು ಪ್ರಚಾರ ಮಾಡಲಾದ ಪರಿಕರಗಳನ್ನೇ, ನಿರ್ಣಾಯಕ ಮೂಲಸೌಕರ್ಯಗಳನ್ನು ರಕ್ಷಿಸುವ ತಜ್ಞರಿಗೆ ನೀಡಲಾಗುತ್ತಿಲ್ಲ.

ಸುರಕ್ಷತೆ ಮತ್ತು ಭದ್ರತೆಯ ನಡುವಿನ ಘರ್ಷಣೆ

ಪ್ರಮುಖ AI ಡೆವಲಪರ್‌ಗಳು ಸೈಬರ್ ಸೆಕ್ಯೂರಿಟಿ ಸಮುದಾಯವನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ನಿರ್ಲಕ್ಷಿಸಿಲ್ಲ. OpenAI ಸಂಸ್ಥೆಯು Trusted Access for Cyber ಎಂಬ ಕಾರ್ಯಕ್ರಮವನ್ನು ನಡೆಸುತ್ತಿದೆ. Anthropic ಸಂಸ್ಥೆಯು Cyber Verification Program ಅನ್ನು ನಡೆಸುತ್ತಿದೆ. ಇವೆರಡೂ ಪರಿಶೀಲಿಸಲ್ಪಟ್ಟ ಬಳಕೆದಾರರು ಕಾನೂನುಬದ್ಧ ಸಂಶೋಧನೆ ನಡೆಸಲು ಕೆಲವು ನಿರಾಕರಣಾ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಬೈಪಾಸ್ ಮಾಡಲು ಅನುಮತಿಸುವಂತೆ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಸಿದ್ಧಾಂತದ ಪ್ರಕಾರ, ಈ ದ್ವಾರಗಳು ಒಳ್ಳೆಯವರನ್ನು ಕೆಟ್ಟವರಿಂದ ಪ್ರತ್ಯೇಕಿಸುತ್ತವೆ.

ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಅನೇಕ ಆಫೆನ್ಸಿವ್ ಸೆಕ್ಯೂರಿಟಿ ಸಂಶೋಧಕರು ಮತ್ತು ನೆಟ್‌ವರ್ಕ್ ರಕ್ಷಕರು ಇವುಗಳನ್ನು ಅಧಿಕಾರಶಾಹಿ ಅಡೆತಡೆಗಳಾಗಿ ಅನುಭವಿಸುತ್ತಾರೆ. ಪರಿಶೀಲನಾ ಪ್ರಕ್ರಿಯೆಗಳು ಅಸ್ಪಷ್ಟವಾಗಿರಬಹುದು. ಅನುಮೋದನೆಯ ಸಮಯವು ಅನಿಶ್ಚಿತವಾಗಿರುತ್ತದೆ. ಅಂಗೀಕಾರದ ನಂತರವೂ, ವಿವಿಧ ಮಾಡೆಲ್ ಆವೃತ್ತಿಗಳು ಅಥವಾ ಸಂಭಾಷಣೆಯ ಥ್ರೆಡ್‌ಗಳಲ್ಲಿ ಹೆಚ್ಚಿನ ಪ್ರವೇಶವು ಯಾವಾಗಲೂ ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದಿಲ್ಲ ಎಂದು ಸಂಶೋಧಕರು ವರದಿ ಮಾಡುತ್ತಾರೆ. ಸಕ್ರಿಯವಾಗಿ ಎಕ್ಸ್‌ಪ್ಲೋಯಿಟ್ ಆಗುತ್ತಿರುವಾಗ ದೋಷಗಳನ್ನು ಸರಿಪಡಿಸಲು (patch) ಶ್ರಮಿಸುತ್ತಿರುವ ತಂಡಗಳಿಗೆ, ಈ ಘರ್ಷಣೆಯು ಬಹಳ ಮುಖ್ಯವಾಗುತ್ತದೆ.

ಅಮೆರಿಕದ ಸರ್ಕಾರವು Anthropic ನ Mythos ಮತ್ತು Fable ಮಾಡೆಲ್‌ಗಳ ಮೇಲೆ ರಫ್ತು ನಿಯಂತ್ರಣಗಳನ್ನು ಹೇರಿದಾಗ ವಾಷಿಂಗ್ಟನ್ ಮತ್ತು ಸಿಲಿಕಾನ್ ವ್ಯಾಲಿಯ ನಡುವಿನ ಉದ್ವಿಗ್ನತೆಯು ಗಮನಾರ್ಹ ಘಟ್ಟವನ್ನು ತಲುಪಿತು. ಸೈಬರ್ ದಾಳಿಗಳನ್ನು ಸುಲಭಗೊಳಿಸಲು ವ್ಯಕ್ತಿಗಳು ಮಾಡೆಲ್‌ಗಳ ಸುರಕ್ಷತಾ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳನ್ನು ಬೈಪಾಸ್ ಮಾಡಿದ್ದಾರೆ ಎಂಬ ವರದಿಗಳ ನಂತರ ಈ ನಿರ್ಬಂಧಗಳನ್ನು ವಿಧಿಸಲಾಯಿತು. ನಿಯಂತ್ರಕರು ಈ ವ್ಯವಸ್ಥೆಗಳನ್ನು ವಿಶಿಷ್ಟವಾಗಿ ಅಪಾಯಕಾರಿ ರಫ್ತು ಸರಕುಗಳೆಂದು ಪರಿಗಣಿಸಲು速速 ಕ್ರಮ ಕೈಗೊಂಡರು. ಅಂದಿನಿಂದ ಈ ನಿಯಂತ್ರಣಗಳನ್ನು ತೆಗೆದುಹಾಕಲಾಗಿದೆ ಅಥವಾ ಮಾರ್ಪಡಿಸಲಾಗಿದೆ, ಆದರೆ ಈ ಘಟನೆಯು ಒಂದು ಸ್ಪಷ್ಟ ಸಂದೇಶವನ್ನು ನೀಡಿತು: ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯವುಳ್ಳ AI ಮಾಡೆಲ್‌ಗಳನ್ನು ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ತಾಂತ್ರಿಕ ಉಪಕರಣಗಳಿಗಿಂತ ಹೆಚ್ಚಾಗಿ ಸಂಭಾವ್ಯ ವಿನಾಶಕಾರಿ ಸಾಧನಗಳಾಗಿ (doomsday devices) ನೋಡಲಾಗುತ್ತಿದೆ. ಅವುಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವ ರಕ್ಷಕರಿಗೆ, ಈ ದೃಷ್ಟಿಕೋನವು ಹೆಚ್ಚಿನ ತಪಾಸಣೆ, ನಿಧಾನಗತಿಯ ಪ್ರವೇಶ ಮತ್ತು ಭದ್ರತಾ ಸಂಶೋಧನೆಯು ಕೇವಲ ಹ್ಯಾಕಿಂಗ್‌ನ ಮತ್ತೊಂದು ಹೆಸರೇ ಎಂಬ ಸಂಶಯವನ್ನು ತರುತ್ತದೆ.

ರಕ್ಷಣೆ ಮತ್ತು ದಾಳಿ ಏಕೆ ಅವಿಭಾಜ್ಯವಾಗಿವೆ

ಈ ಸಂಘರ್ಷದ ಕೇಂದ್ರಬಿಂದು ಆಡಳಿತಾತ್ಮಕವಾದುದಲ್ಲ. ಇದು ತಾಂತ್ರಿಕವಾದುದು. ಒಂದು ನೆಟ್‌ವರ್ಕ್ ಅನ್ನು ರಕ್ಷಿಸಲು ಅಗತ್ಯವಿರುವ ಸಾಮರ್ಥ್ಯಗಳು, ಅದನ್ನು ದಾಳಿ ಮಾಡಲು ಅಗತ್ಯವಿರುವ ಸಾಮರ್ಥ್ಯಗಳಂತೆಯೇ ಇರುತ್ತವೆ.

NCC Group ನ ಮುಖ್ಯ ವಿಜ್ಞಾನಿ ಕ್ರಿಸ್ ಆನ್ಲಿ ಒಂದು ಸರಳ ಉದಾಹರಣೆಯನ್ನು ನೀಡುತ್ತಾರೆ: AI ಎಂಬುದು ಒಂದು ಸುತ್ತಿಗೆಯಿದ್ದಂತೆ. ನೀವು ಅದನ್ನು ಮನೆ ಕಟ್ಟಲು ಅಥವಾ ಕಿಟಕಿ ಒಡೆಯಲು ಬಳಸಬಹುದು. ಆ ಉಪಕರಣಕ್ಕೆ ಇವೆರಡರ ನಡುವಿನ ವ್ಯತ್ಯಾಸ ತಿಳಿಯುವುದಿಲ್ಲ. ಸೈಬರ್ ಸೆಕ್ಯೂರಿಟಿಯಲ್ಲಿ, ಈ ದ್ವಂದ್ವತೆಯನ್ನು ತಪ್ಪಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಒಬ್ಬ ವೃತ್ತಿಪರನು ಮಾಡೆಲ್‌ಗೆ "ಈ ಕೋಡ್ ಅನ್ನು ಸರಿಪಡಿಸು" ಎಂದು ಕೇಳಿದಾಗ, ಆ ವಿನಂತಿಯು ರಕ್ಷಣಾತ್ಮಕ ಕ್ರಮವನ್ನು ಪ್ರಚೋದಿಸುತ್ತದೆ. ಆದರೆ ಆ ಸರಿಪಡಿಸುವಿಕೆಯನ್ನು ಮಾಡುವ ತರ್ಕದ ಪ್ರಕ್ರಿಯೆಯು—ಅಸುರಕ್ಷಿತ ಫಂಕ್ಷನ್‌ಗಳನ್ನು ಗುರುತಿಸುವುದು, ನಂಬಲಾರದ ಇನ್‌ಪುಟ್ ಅನ್ನು ಪತ್ತೆಹಚ್ಚುವುದು, ಎಕ್ಸಿಕ್ಯೂಷನ್ ಫ್ಲೋಗಳನ್ನು ನಕ್ಷೆ ಮಾಡುವುದು—ಅನಿವಾರ್ಯವಾಗಿ ಆ ದೋಷವನ್ನು ಹೇಗೆ ಬಳಸಿಕೊಳ್ಳಬಹುದು ಎಂಬುದನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತದೆ. ಆ ವಿವರಣೆಯು ಎಕ್ಸ್‌ಪ್ಲೋಯಿಟ್ ಮಾಡಲು ಒಂದು ಮಾರ್ಗಸೂಚಿಯಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.

AI ಸುರಕ್ಷತಾ ತಂಡಗಳು ಎಕ್ಸ್‌ಪ್ಲೋಯಿಟ್ ಮಾಡುವ ಸೂಚನೆಗಳಂತೆ ಕಾಣುವ ಯಾವುದೇ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ನಿರಾಕರಿಸಲು ಮಾಡೆಲ್‌ಗಳಿಗೆ ತರಬೇತಿ ನೀಡುವ ಕಾರಣ, ಈ ವ್ಯವಸ್ಥೆಗಳು ಅತಿಯಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತವೆ (overcorrect). ಬಳಕೆದಾರರ ಇನ್‌ಪುಟ್ ಅನ್ನು ಹೇಗೆ ಶುದ್ಧೀಕರಿಸಬೇಕು (sanitize) ಎಂದು ಕೇಳುವ ಸಂಶೋಧಕನಿಗೆ ಉತ್ತರ ಸಿಗುತ್ತದೆ. ಆದರೆ ಒಬ್ಬ ಸಂಶೋಧಕನು ಹೇಗೆ...