Anthropic ಮತ್ತು OpenAI ಪ್ರತಿಯೊಂದೂ ಹೊಸ ಸಂಶೋಧನಾ ಮಾರ್ಗವನ್ನು (research track) ಪ್ರಾರಂಭಿಸಿವೆ, ಇದು ಪರಿಶೀಲಿಸಲ್ಪಟ್ಟ ಭದ್ರತಾ ತಂಡಗಳು ಹೆಚ್ಚಿನ ಸುರಕ್ಷತಾ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ತೆಗೆದುಹಾಕಲಾದ AI ಮಾದರಿಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. Anthropic ನ “Cyber Verification Program” ಮತ್ತು OpenAI ನ “Trusted Access for Cyber” ಅನುಮೋದಿತ ಸಂಶೋಧಕರಿಗೆ ನಿರ್ಬಂಧವಿಲ್ಲದ ಕೋಡ್, ಪ್ರಾಂಪ್ಟ್‌ಗಳು ಮತ್ತು ಸೂಚನೆಗಳನ್ನು ರಚಿಸಬಲ್ಲ ಶಕ್ತಿಯುತ ಭಾಷಾ ಮಾದರಿಗಳಿಗೆ ನೇರ ಪ್ರವೇಶವನ್ನು ನೀಡುತ್ತವೆ. ಈ ಕ್ರಮವು AI ಪೂರೈಕೆ ಸರಪಳಿಯಲ್ಲಿ ಒಂದು ಸ್ಪಷ್ಟವಾದ ವಿಭಜನೆಯನ್ನು ಸೃಷ್ಟಿಸುವುದರಿಂದ ಮುಖ್ಯವಾಗಿದೆ: ಅಲ್ಪসংখ্যক ಒಳಬರುವವರು (insiders) ಅತ್ಯಂತ ದುರ್ಬಲ ಆವೃತ್ತಿಗಳನ್ನು ಪರೀಕ್ಷಿಸಬಹುದು, ಆದರೆ ಉಳಿದ ಪ್ರಪಂಚವು ಬಲವಾದ ರಕ್ಷಣಾತ್ಮಕ ಕ್ರಮಗಳ (guardrails) ಹಿಂದೆ ಇರುತ್ತದೆ.

ಈ ಕಾರ್ಯಕ್ರಮಗಳು ಏಕೆ ಬಂದವು

ತಮ್ಮ ಸೇವೆಗಳ ವಿರುದ್ಧ ಶಸ್ತ್ರಾಸ್ತ್ರವಾಗಿ ಬಳಸಬಹುದಾದ ದುರ್ಬಲತೆಗಳ ಪತ್ತೆಯನ್ನು ವೇಗಗೊಳಿಸುವುದು ಈ ಉಪಕ್ರಮಗಳ ಗುರಿ ಎಂದು ಎರಡೂ ಸಂಸ್ಥೆಗಳು ಹೇಳಿವೆ. ನಿಯಂತ್ರಿತ ತಜ್ಞರ ಗುಂಪಿಗೆ ಕಡಿಮೆ ನಿರ್ಬಂಧಗಳಿರುವ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್ ಅನ್ನು ನೀಡುವ ಮೂಲಕ, ದುರುಪಯೋಗಿ ವ್ಯಕ್ತಿಗಳು ಅವುಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಮೊದಲೇ ಅಟ್ಯಾಕ್ ವೆಕ್ಟರ್‌ಗಳನ್ನು (attack vectors) ಹೊರಹಾಕಲು ಅವರು ಬಯಸುತ್ತಾರೆ. ಈ ವಿಧಾನವು ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್‌ವೇರ್ ಭದ್ರತೆಯನ್ನು ಹೋಲುತ್ತದೆ, ಅಲ್ಲಿ ಡೆವಲಪರ್‌ಗಳು ಆಯ್ದ ಪ್ರೇಕ್ಷಕರಿಗೆ “bug-bounty” ಬಿಲ್ಡ್‌ಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡುತ್ತಾರೆ.

ರಕ್ಷಕರಿಗೆ ಹೊಸ ಅಪಾಯದ ಲೆಕ್ಕಾಚಾರ

ಇದರ ಇನ್ನೊಂದು ಮುಖವೆಂದರೆ ಎರಡು ಹಂತದ ಪ್ರವೇಶ ಮಾದರಿಯಾಗಿದ್ದು, ಇದು ಪ್ರತಿಯೊಂದು ಸಂಸ್ಥೆಯು “ಸಂಶೋಧಕ” ಮತ್ತು “ಹ್ಯಾಕರ್” ನಡುವೆ ಒಂದು ಗೆರೆಯನ್ನು ಎಳೆಯುವಂತೆ ಮಾಡುತ್ತದೆ. ಆ ಗೆರೆಯು ಈಗ ಸಂಭಾವ್ಯ ಅಟ್ಯಾಕ್ ಸರ್ಫೇಸ್ ಆಗುತ್ತದೆ. ದಾಳಿಕಾರರು ಕ್ರೆಡೆನ್ಶಿಯಲ್‌ಗಳನ್ನು ಕದಿಯುವ ಮೂಲಕ, ಒಳಬರುವವರ ಪ್ರವೇಶವನ್ನು ಬಳಸಿಕೊಳ್ಳುವ ಮೂಲಕ ಅಥವಾ ಪರಿಶೀಲನಾ ಪ್ರಕ್ರಿಯೆಯನ್ನು ವಂಚಿಸುವ ಮೂಲಕ, ಹೆಚ್ಚಿನ ಬಳಕೆದಾರರನ್ನು ರಕ್ಷಿಸುವ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳನ್ನು ದಾಟಬಹುದು. ಒಮ್ಮೆ ಒಳಗೆ ಪ್ರವೇಶಿಸಿದ ನಂತರ, ನಿರ್ಬಂಧವಿಲ್ಲದ ಮಾದರಿಯನ್ನು ಈ ಕೆಳಗಿನವುಗಳಿಗಾಗಿ ಬಳಸಬಹುದು:

  • ಪತ್ತೆಹಚ್ಚುವಿಕೆಯನ್ನು ತಪ್ಪಿಸುವ ಫಿಶಿಂಗ್ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ರಚಿಸುವುದು
  • ವಿವರವಾದ ಕೋಡ್ ಸ್ನಿಪೆಟ್‌ಗಳೊಂದಿಗೆ zero-day exploits ತಯಾರಿಸುವುದು
  • ನಿರ್ದಿಷ್ಟ ಗುರಿಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ಮನವೊಲಿಸುವ social-engineering ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ತಯಾರಿಸುವುದು

AI ಔಟ್‌ಪುಟ್‌ಗಳು ಯಾವಾಗಲೂ ಫಿಲ್ಟರ್ ಮಾಡಲ್ ಎಂಬ ಕಲ್ಪನೆಯ ಮೇಲೆ ರಕ್ಷಣೆಯನ್ನು ನಿರ್ಮಿಸಿದ ಭದ್ರತಾ ತಂಡಗಳು ಆ ಊಹೆಯನ್ನು ಮರುಪರಿಶೀಲಿಸಬೇಕಾಗಿದೆ.

ರಕ್ಷಕರು ಹೇಗೆ ಪ್ರತಿಕ್ರಿಯಿಸಬಹುದು

  • ಕಾರ್ಯಕ್ರಮಗಳನ್ನು ಬೆದರಿಕೆಯ ವಲಯವಾಗಿ (threat vector) ಪರಿಗಣಿಸಿ. ವಿರೋಧಿಗಳು ಪರಿಶೀಲನಾ ಮಾರ್ಗವನ್ನು ನುಸುಳಲು ಪ್ರಯತ್ನಿಸಬಹುದು ಎಂದು ಭಾವಿಸಿ ಮತ್ತು AI ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ಅಸಹಜ ಲಾಗಿನ್ ಮಾದರಿಗಳಿಗಾಗಿ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ.
  • ಕ್ಲೌಡ್‌ಗಿಂತಲೂ ಮೀರಿದ ಪತ್ತೆಯನ್ನು ವಿಸ್ತರಿಸಿ. ಹೊರಹೋಗುವ ಟ್ರಾಫಿಕ್‌ನಲ್ಲಿ, ವಿಶೇಷವಾಗಿ ಸೌಲಭ್ಯವಿರುವ (privileged) ಖಾತೆಗಳಿಂದ AI-ಸೃಷ್ಟಿತ ಕೋಡ್ ಅಥವಾ ಪಠ್ಯವನ್ನು ಹುಡುಕಿ.
  • ನೀತಿ ನಿಯಂತ್ರಣಗಳನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿ ಜಾರಿಗೆ ತರಲಾಗಿ. ಬಾಹ್ಯ AI ಸೇವೆಗಳ ಯಾವುದೇ ಆಂತರಿಕ ಬಳಕೆಗೆ ಕಟ್ಟುನಿಟ್ಟಾದ “least-privilege” ನಿಯಮಗಳನ್ನು ಜಾರಿಗೆ ತರें ಮತ್ತು ಕಳಂಕಿತ ಕ್ರೆಡೆನ್ಶಿಯಲ್ ಮೂಲಕ ತಲುಪಬಹುದಾದ ಪರಿಸರಗಳನ್ನು ವಿಂಗಡಿಸಿ (segment).
  • ಮಾರಾಟಗಾರರೊಂದಿಗೆ ಸಹಕರಿಸಿ. ಪ್ರವೇಶ ಮಾನದಂಡಗಳಲ್ಲಿನ ಬದಲಾವಣೆಗಳು ಅಥವಾ ಪತ್ತೆಯಾದ ದುರುಪಯೋಗಗಳ ಬಗ್ಗೆ ಎಚ್ಚರಿಕೆಗಳನ್ನು ಪಡೆಯಲು Anthropic ಮತ್ತು OpenAI ನ ಭದ್ರತಾ ಸಂಪರ್ಕ ಚಾನಲ್‌ಗಳೊಂದಿಗೆ ಸಕ್ರಿಯವಾಗಿರಿ.

ವಿರೋಧಾತ್ಮಕ ವಾದ

ಆಳವಾದ ತನಿಖೆಗಾಗಿ ಸುರಕ್ಷಿತ ಮಾರ್ಗವಿಲ್ಲದಿದ್ದರೆ, ದುರ್ಬಲತೆಗಳು ಪ್ರಾಯೋಗಿಕವಾಗಿ ಬಳಕೆಯಾಗುವವರೆಗೆ ಅಡಗಿದೆಯೇ ಇರುತ್ತವೆ ಎಂದು ಬೆಂಬಲಿಸುವವರು ವಾದಿಸುತ್ತಾರೆ. ಆದ್ದರಿಂದ, ಈ ಕಾರ್ಯಕ್ರಮಗಳು ದೋಷಗಳನ್ನು ಮೊದಲೇ ಪತ್ತೆಹಚ್ಚುವ ಮೂಲಕ ಒಟ್ಟಾರೆ ಅಟ್ಯಾಕ್ ಸರ್ಫೇಸ್ ಅನ್ನು ಕಡಿಮೆ ಮಾಡಬಹುದು. ಆದರೆ, ಇದರ ವಹಿವಾಟು (trade-off) ಏನೆಂದರೆ, “ಕಡಿಮೆ ರಕ್ಷಣೆ ಇರುವ” ಹಂತವು ಅವಕಾಶದ ದುರುಪಯೋಗಕ್ಕೆ ಅವಕಾಶ ಮಾಡಿಕೊಡುತ್ತದೆ.

ಗಮನಿಸಬೇಕಾದವುಗಳು

  • ಎರಡೂ ಕಂಪನಿಗಳಿಂದ ಪರಿಶೀಲನಾ ಪ್ರಕ್ರಿಯೆಯ ಅಪ್‌ಡೇಟ್‌ಗಳು
  • ಕಾರ್ಯಕ್ರಮಗಳಿಂದ ಉಂಟಾಗುವ ದುರುಪಯೋಗದ ವರದಿಗಳು
  • AI ಸಂಬಂಧಿತ ಅಟ್ಯಾಕ್ ಸರ್ಫೇಸ್‌ಗಳನ್ನು ಹೇಗೆ ವರ್ಗೀಕರಿಸಲಾಗುತ್ತದೆ ಎಂಬುದರಲ್ಲಿ ಉದ್ಯಮದಾದ್ಯಂತ ಆಗುವ ಬದಲಾವಣೆಗಳು

ಅಂತಿಮವಾಗಿ: ಹೊಸ ಸಂಶೋಧನಾ ಮಾರ್ಗಗಳು ಭದ್ರತಾ ಸಂಶೋಧಕರಿಗೆ ಶಕ್ತಿಯುತ ಸಾಧನಗಳನ್ನು ನೀಡುತ್ತವೆ, ಆದರೆ ಅವು ಅದೇ ಸಾಧನಗಳನ್ನು ಗೇಟ್ ಅನ್ನು ದಾಟಬಲ್ಲ ಯಾರಿಗಾದರೂ ನೀಡುತ್ತವೆ. ರಕ್ಷಣಾ ತಂಡಗಳು ಈ ಕಾರ್ಯಕ್ರಮಗಳನ್ನು ಒಳನೋಟದ ಮೂಲ ಮತ್ತು ದಾಳಿಗಾಗಿ ಹೊಸ ಮಾರ್ಗ ಎರಡೂ ಎಂದು ಪರಿಗಣಿಸಬೇಕು.