ಸ್ಟ್ಯಾನ್‌ಫೋರ್ಡ್‌ನ 2026ರ AI ಇಂಡೆಕ್ಸ್ ಕಳೆದ ವರ್ಷ ಸುರಕ್ಷತಾ ಘಟನೆಗಳು 362ಕ್ಕೆ ಏರಿರುವುದನ್ನು ತೋರಿಸುತ್ತದೆ, ಇದು ಮಾದರಿಗಳ ವೇಗವಾದ ಸುಧಾರಣೆ ಮತ್ತು ಅವುಗಳನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿಡಲು ಉದ್ದೇಶಿಸಲಾದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳ ನಡುವಿನ ಬೆಳೆಯುತ್ತಿರುವ ಅಂತರವನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ. ತಡೆಗಟ್ಟಲಾಗದ ಪ್ರತಿಯೊಂದು ವೈಫಲ್ಯವು ಹಣಕಾಸು, ಆರೋಗ್ಯ ಮತ್ತು ಸಾರ್ವಜನಿಕ ಸೇವೆಗಳಲ್ಲಿ ಈಗಾಗಲೇ ಅಳವಡಿಸಲಾದ ವ್ಯವಸ್ಥೆಗಳ ಮೇಲಿನ ವಿಶ್ವಾಸವನ್ನು ಕುಗ್ಗಿಸುತ್ತದೆ.

ಅಂತರದ ಹಿಂದಿರುವ ದತ್ತಾಂಶ

Institute for Human-Centered Artificial Intelligence ಎಂಬ ಸಂಸ್ಥೆಯು ಸಿದ್ಧಪಡಿಸಿದ ಈ ಇಂಡೆಕ್ಸ್, ಮಾದರಿಗಳ ಪ್ರಮುಖ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಅವುಗಳ ನೈಜ ಪ್ರಪಂಚದ ವಿಶ್ವಾಸಾರ್ಹತೆಗೆ ಹೋಲಿಸುತ್ತದೆ. ಉನ್ನತ ಮಟ್ಟದ ಮಾದರಿಗಳು ಇನ್ನೂ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ಉತ್ತಮ ಸಾಧನೆ ಮಾಡುತ್ತಿದ್ದರೂ, ಅವುಗಳ “hallucination” ದರಗಳು—ಅಂದರೆ ಅವು ಸುಳ್ಳು ಅಥವಾ ಕಲ್ಪಿತ ಹೇಳಿಕೆಗಳನ್ನು ನೀಡುವ ಸಂದರ್ಭಗಳು—ಕ್ಷೇತ್ರದಾದ್ಯಂತ ಆಘಾತಕಾರಿ ಮಟ್ಟದಲ್ಲಿ 22% ರಿಂದ 94% ರಷ್ಟಿವೆ. ಬಳಕೆದಾರರು ಮಾದರಿಗಳಿಗೆ ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಸುಳ್ಳು ಮಾಹಿತಿಯನ್ನು ನೀಡಿದಾಗ, GPT-4o ನ ನಿಖರತೆಯು 98.2% ರಿಂದ 64.4% ಕ್ಕೆ ಕುಸಿಯುತ್ತದೆ; ಅದೇ ಪರೀಕ್ಷೆಯಲ್ಲಿ DeepSeek R1 ಕೇವಲ 90% ಕ್ಕಿಂತ ಸ್ವಲ್ಪ ಹೆಚ್ಚು ಇದ್ದದ್ದು 14.4% ಕ್ಕೆ ಇಳಿಯುತ್ತದೆ. ದುರುದ್ದೇಶಪೂರಿತ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ತಡೆಯಬೇಕಾದ ಸುರಕ್ಷತಾ ಕವಚಗಳು (safety guardrails), ದಾಳಿಕೋರರು ಅವುಗಳನ್ನು ಪರೀಕ್ಷಿಸಿದಾಗ ನಿಯಮಿತವಾಗಿ ವಿಫಲವಾಗುತ್ತಿವೆ.

ಕಂಪನಿಗಳು ಏಕೆ ಧಾವಿಸುತ್ತಿವೆ

ನೀತಿಗಳ ಅಳವಡಿಕೆಯು ಅವುಗಳ ಜಾರಿಗಿಂತ ವೇಗವಾಗಿ ಸಾಗುತ್ತಿದೆ. ಹಿಂದಿನ ಸಮೀಕ್ಷೆ ಮತ್ತು ಈ ವರ್ಷದ ನಡುವೆ ಯಾವುದೇ AI ಆಡಳಿತವಿಲ್ಲದ ಸಂಸ್ಥೆಗಳ ಪಾಲು 24% ರಿಂದ 11% ಕ್ಕೆ ಇಳಿದಿದೆ, ಮತ್ತು ಅನೇಕರು ಈಗ ISO/IEC 42001 ಅಥವಾ NIST AI Risk Management Framework ನಂತಹ ಮಾನದಂಡಗಳನ್ನು ಉಲ್ಲೇಖಿಸುತ್ತಿದ್ದಾರೆ. ನೀತಿಯನ್ನು ರೂಪಿಸುವುದು ಮತ್ತು ಅದನ್ನು ಪಾಲಿಸುವುದು ಒಂದೇ ಅಲ್ಲ. ಆಂತರಿಕ ಜ್ಞಾನದ ಕೊರತೆಯು 59% ಪ್ರತಿಕ್ರಿಯೆದಾರರ ಮೇಲೆ ಪರಿಣಾಮ ಬೀರುತ್ತಿದೆ, ಬಜೆಟ್ ಮಿತಿಗಳು 48% ರವರನ್ನು ತಡೆಯುತ್ತಿವೆ ಮತ್ತು ನಿಯಂತ್ರಕ ಅನಿಶ್ಚಿತತೆಯು 41% ರವರನ್ನು ಕಾಡುತ್ತಿದೆ. ವರದಿಯು ಇದನ್ನು “ತಾಂತ್ರಿಕ ಸಮಸ್ಯೆ” ಎಂದು ಕರೆಯುತ್ತದೆ: ಗೌಪ್ಯತಾ ನಿಯಂತ್ರಣಗಳನ್ನು ಬಿಗಿಗೊಳಿಸುವುದು ಅರಿಯದೇ ನ್ಯಾಯಸಮ್ಮತತೆಯ ಮಾಪಕಗಳನ್ನು (fairness metrics) ದುರ್ಬಲಗೊಳಿಸಬಹುದು ಮತ್ತು ಇದರ ವಿರುದ್ಧವೂ ಆಗಬಹುದು, ಇದು ಎಂಜಿನಿಯರ್‌ಗಳಿಗೆ ಸಾಕಷ್ಟು ಪರಿಕರಗಳು ಅಥವಾ ಹಣಕಾಸಿನ ನೆರವು ಇಲ್ಲದೆ ಪರಸ್ಪರ ವಿರೋಧಾಭಾಸವಿರುವ ಉದ್ದೇಶಗಳನ್ನು ನಿಭಾಯಿಸುವಂತೆ ಮಾಡುತ್ತದೆ.

ಪ್ರಸ್ತುತ ಸುರಕ್ಷತಾ ತಪಾಸಣೆಗಳ ಭ್ರಮೆ

ಪಾರದರ್ಶಕತೆಯ ಅಂಕಗಳು—ಅಂದರೆ ಡೆವಲಪರ್‌ಗಳು ಮಾದರಿಗಳ ಮಿತಿಗಳು ಮತ್ತು ಪರೀಕ್ಷಾ ವಿಧಾನಗಳನ್ನು ಎಷ್ಟು ಮುಕ್ತವಾಗಿ ಬಹಿರಂಗಪಡಿಸುತ್ತಾರೆ ಎಂಬುದರ ಒಟ್ಟು ಮೊತ್ತ—58 ರಿಂದ 40 ಕ್ಕೆ ಇಳಿದಿವೆ, ಇದು ಸ್ವಯಂಪ್ರೇರಿತ ವರದಿಗಾರಿಕೆಯು ತನ್ನ ವಿಶ್ವಾಸಾರ್ಹತೆಯನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತಿದೆ ಎಂಬುದನ್ನು ಸೂಚಿಸುತ್ತದೆ. ಕಂಪನಿಗಳು ಹೆಚ್ಚಾಗಿ ಆಂತರಿಕ ಲೆಕ್ಕಪರಿಶೋಧನೆಗಳನ್ನು (internal audits) ಅವಲಂಬಿಸುತ್ತವೆ, ಇವು ಇಂಡೆಕ್ಸ್‌ನಲ್ಲಿ ದಾಖಲಾದ ಅನಿರೀಕ್ಷಿತ ವೈಫಲ್ಯಗಳನ್ನು (edge-case failures) ಗುರುತಿಸಲು ವಿಫಲವಾಗುತ್ತವೆ. ಇದರ ಪರಿಣಾಮವು ಸುಳ್ಳು ಭದ್ರತೆಯ ಭಾವನೆಯಾಗಿದೆ; ಗುಪ್ತ ದೌರ್ಬಲ್ಯಗಳು ಮುಂದುವರಿದಿದ್ದರೂ ಸಂಸ್ಥೆಗಳು ತಾವು ಸುರಕ್ಷಿತವಾಗಿದ್ದೇವೆ ಎಂದು ನಂಬುತ್ತವೆ.

ವಿರೋಧಾತ್ಮಕ ಅಂಶ: ಮಾನದಂಡಗಳು ಪ್ರಚಲಿತಕ್ಕೆ ಬರುತ್ತಿವೆ

ಬೆಂಬಲಿಗರು ISO ಮತ್ತು NIST ಚೌಕಟ್ಟುಗಳನ್ನು ಉಲ್ಲೇಖಿಸುವುದು ಒಂದು ಮುನ್ನಡೆಯಾಗಿದೆ ಎಂದು ವಾದಿಸುತ್ತಾರೆ. ಔಪಚಾರಿಕ ಮಾನದಂಡಗಳು ಲೆಕ್ಕಪರಿಶೋಧಕರಿಗೆ ಮತ್ತು ನಿಯಂತ್ರಕರಿಗೆ ಸಾಮಾನ್ಯ ಭಾಷೆ ಮತ್ತು ಮೂಲಭೂತ ನಿರೀಕ್ಷೆಗಳನ್ನು ನೀಡುತ್ತವೆ, ಇದು ವಿವಿಧ ಕಂಪನಿಗಳ ನಡುವಿನ ಹೋಲಿಕೆಯನ್ನು ಸುಲಭಗೊಳಿಸುತ್ತದೆ. ನೀತಿ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವಾಗ, ಆರಂಭಿಕ ಅಳವಡಿಕೆದಾರರು ಸುಗಮ ಆಂತರಿಕ ಹೊಂದಾಣಿಕೆ ಮತ್ತು ಸ್ಪಷ್ಟವಾದ ಏскаಲೇಶನ್ ಮಾರ್ಗಗಳನ್ನು (escalation paths) ವರದಿ ಮಾಡುತ್ತಾರೆ. ನೀತಿ ಅಳವಡಿಕೆಯಲ್ಲಿನ ಏರಿಕೆಯು ಉದ್ಯಮವು ಅಪಾಯವನ್ನು ಗುರುತಿಸಿದೆ ಮತ್ತು ಆಡಳಿತದಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡಲು ಸಿದ್ಧವಾಗಿದೆ ಎಂಬುದನ್ನು ಸೂಚಿಸುತ್ತದೆ.

ಇನ್ನೂ ಏನಿಲ್ಲ

ಪತ್ರಿಕೆಯಲ್ಲಿ ನೀತಿಗಳಿದ್ದರೂ ಸಹ, ಅವುಗಳ ಅನುಷ್ಠಾನವು ವಿಫಲವಾಗುತ್ತಿದೆ. ಇಂಡೆಕ್ಸ್ ಮೂರು ಪ್ರಾಯೋಗಿಕ ಅಡೆತಡೆಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ:

  • ಜ್ಞಾನದ ಕೊರತೆ: ತಂಡಗಳು AI ಅಪಾಯದಲ್ಲಿ ಆಳವಾದ ಪರಿಣತಿಯನ್ನು ಹೊಂದಿಲ್ಲ, ಇದು ಮೇಲ್ನೋಟದ ಅನುಸರಣಾ ತಪಾಸಣೆಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತದೆ.
  • ಹಣಕಾಸಿನ ಕೊರತೆ: ಸುರಕ್ಷತಾ ಪರಿಕರಗಳು, ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಲೆಕ್ಕಪರಿಶೋಧನೆ ಮತ್ತು ನಿರಂತರ ಮೇಲ್ವಿಚಾರಣೆಗೆ ಹೆಚ್ಚಿನ ಬಜೆಟ್ ಅಗತ್ಯವಿದೆ, ಅದನ್ನು ಅನೇಕ ಕಂಪನಿಗಳು ಸಮರ್ಥಿಸಿಕೊಳ್ಳಲು ಸಾಧ್ಯವಾಗುತ್ತಿಲ್ಲ.
  • ನಿಯಂತ್ರಕ ಅಸ್ಪಷ್ಟತೆ: ಅಸ್ಪಷ್ಟ ಅಥವಾ ಬದಲಾಗುತ್ತಿರುವ ಕಾನೂನುಗಳು ದೀರ್ಘಕಾಲದ ಅನುಸರಣಾ ಮಾರ್ಗಸೂಚಿಗಳನ್ನು (compliance roadmaps) ರೂಪಿಸುವುದನ್ನು ಕಷ್ಟಕರವಾಗಿಸುತ್ತವೆ.

ಈ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸಲು ಬಾಹ್ಯ ಮೌಲ್ಯೀಕರಣದ ಅಗತ್ಯವಿರಬಹುದು. ಸ್ವಯಂ-ಮೌಲ್ಯಮಾಪನದಿಂದ ಹೊರಬಂದು, ನೈಜ ಪ್ರಪಂಚದ ಬಳಕೆ ಮತ್ತು ವೈರಿಗಳ ದಾಳಿಗಳನ್ನು (adversarial attacks) ಅನುಕರಿಸುವ ಸ್ವತಂತ್ರ ಮೌಲ್ಯಮಾಪನಗಳತ್ತ ಸಾಗಲು ವರದಿಯು ಶಿಫಾರಸು ಮಾಡುತ್ತದೆ. ಅಲ್ಲದೆ, ಸುರಕ್ಷತಾ ತಪಾಸಣೆಗಳನ್ನು ಕೇವಲ ನಂತರದ ಆಲೋಚನೆಯಾಗಿ ಪರಿಗಣಿಸದೆ, ಅವುಗಳನ್ನು ನೇರವಾಗಿ ಮಾದರಿ ಪೈಪ್‌ಲೈನ್‌ಗಳಲ್ಲಿ (model pipelines) ಅಳವಡಿಸುವ ಎಂಜಿನಿಯರಿಂಗ್ ಪರಿಹಾರಗಳಿಗೂ ಇದು ಕರೆ ನೀಡುತ್ತದೆ.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು