ಆಗಸ್ಟ್ 14 ರಿಂದ, Claude Code ಪ್ರತಿ ಟೂಲ್ ಕಾಲ್‌ಗಾಗಿ (tool call) ಬಳಕೆದಾರರನ್ನು "approve" ಕ್ಲಿಕ್ ಮಾಡಲು ಕೇಳುವುದನ್ನು ನಿಲ್ಲಿಸಲಿದೆ ಎಂದು Anthropic ಘೋಷಿಸಿದೆ. ಬದಲಾಗಿ, ಯಾವ ಕ್ರಮಗಳಿಗೆ ಮಾನವ ವಿಮರ್ಶೆಯ ಅಗತ್ಯವಿದೆ ಎಂಬುದನ್ನು AI-ಚಾಲಿತ ರಿಸ್ಕ್ ಕ್ಲಾಸಿಫೈಯರ್ (risk classifier) ನಿರ್ಧರಿಸುತ್ತದೆ. 1,053 ಪರೀಕ್ಷಕರ ಅಧ್ಯಯನವು 97% ಕ್ಲಿಕ್‌ಗಳು ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಓದದೆ ನಡೆದವು ಎಂದು ತೋರಿಸಿದೆ, ಮತ್ತು ಕ್ಲಾಸಿಫೈಯರ್ 89% ಹಾನಿಕಾರಕ ಕ್ರಮಗಳನ್ನು ಪತ್ತೆಹಚ್ಚಿದರೆ, ಮಾನವರು ಕೇವಲ 13.6% ಮಾತ್ರ ಪತ್ತೆಹಚ್ಚಿದ್ದಾರೆ.

ಹಳೆಯ “click to approve” ಮಾದರಿ ಏಕೆ ವಿಫಲವಾಯಿತು

ಹಳೆಯ ವರ್ಕ್‌ಫ್ಲೋವು (workflow) ಪ್ರತಿ ಬಾಹ್ಯ ಕ್ರಮವನ್ನು—ಕೋಡ್ ಪುಶ್ ಮಾಡುವುದು, ಫೈಲ್‌ಗಳನ್ನು ಡಿಲೀಟ್ ಮಾಡುವುದು—ಬಟನ್ ಕ್ಲಿಕ್ ಮಾಡುವ ಮೂಲಕ ಮನುಷ್ಯರು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳುವಂತೆ ಒತ್ತಾಯಿಸುತ್ತಿತ್ತು. ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಬಳಕೆದಾರರು ಈ ಸಂಭಾಷಣೆಯನ್ನು ಕೇವಲ ಒಂದು ಔಪಚಾರಿಕತೆಯೆಂದು ಪರಿಗಣಿಸಿ, ಸ್ವಯಂಚಾಲಿತವಾಗಿ (reflexively) ಅನುಮೋದಿಸುತ್ತಿದ್ದರು. ಅಧ್ಯಯನದ ಅಂಕಿಅಂಶಗಳು ಸಮಸ್ಯೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತವೆ: ಬಹುತೇಕ ಪ್ರತಿಯೊಂದು ಕ್ಲಿಕ್ ಕೂಡ ಒಂದು ಪ್ರತಿಫಲಿತ ಕ್ರಿಯೆಯಾಗಿತ್ತು (reflex), ಮತ್ತು ಗಮನಕ್ಕೆ ಬಂದ ಕೆಲವೇ ಕೆಲವು ನೈಜ ಎಚ್ಚರಿಕೆಗಳು ಹೆಚ್ಚಿನ ಅಪಾಯಕಾರಿ ಕಾರ್ಯಾಚರಣೆಗಳನ್ನು ತಪ್ಪಿಸಬೇಕಾಗಿ ಬಂದವು. ಸುರಕ್ಷತಾ ಕವಚವು ಮಾಯವಾದಾಗ, ಸಿಸ್ಟಮ್‌ನ ಭದ್ರತೆಯು ಕುಸಿಯುತ್ತದೆ.

ಹೊಸ ಕ್ಲಾಸಿಫೈಯರ್ ಏನು ಮಾಡುತ್ತದೆ

Anthropic ನ ಬದಲಾವಣೆಯು ತರಬೇತಿ ಪಡೆದ ಮಾಡೆಲ್ ಆಗಿದ್ದು, ಇದು ಪ್ರತಿಯೊಂದು ಬಾಕಿ ಇರುವ ಕ್ರಮವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತದೆ ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಯು ಈ ಕೆಳಗಿನ ಮೂರು ವರ್ಗಗಳಲ್ಲಿ ಒಂದಕ್ಕೆ ಸೇರಿದ್ದಾಗ ಮಾತ್ರ ಅಡ್ಡಿಪಡಿಸುತ್ತದೆ:

  • Irreversible – ರಿಪೊಸಿಟರಿಗೆ ಫೋರ್ಸ್-ಪುಶ್ ಮಾಡುವುದು ಅಥವಾ ಡೇಟಾಬೇಸ್ ಟೇಬಲ್ ಅನ್ನು ಡ್ರಾಪ್ ಮಾಡುವುದು ಅಂತಹ ಮರಳಿ ಪಡೆಯಲಾಗದ (cannot be undone) ಕ್ರಮಗಳು.
  • Destructive – ಕೆಲಸವನ್ನು ಅಳಿಸಿಹಾಕಬಹುದಾದ ಬಲ್ಕ್ ಡಿಲೀಷನ್‌ಗಳು ಅಥವಾ ಫೈಲ್‌ಗಳನ್ನು ಓವರ್‌ರೈಟ್ ಮಾಡುವುದು.
  • Outward-facing – ಪಲ್ ರಿಕವೆಸ್ಟ್ (pull request) ತೆರೆಯುವುದು ಅಥವಾ Slack ನೋಟಿಫಿಕೇಶನ್ ಕಳುಹಿಸುವುದು ಅಂತಹ ಕೋಡ್ ಅಥವಾ ಸಂದೇಶಗಳನ್ನು ಬಾಹ್ಯ ಸಿಸ್ಟಮ್‌ಗಳಿಗೆ ಪ್ರದರ್ಶಿಸುವ ಹಂತಗಳು.

ಒಂದು ಕ್ರಮವು ಈ ಯಾವುದೇ ಮಾನದಂಡಗಳನ್ನು ಪೂರೈಸದಿದ್ದರೆ, ಮಾಡೆಲ್ ಅದನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಮುಂದುವರಿಯಲು ಬಿಡುತ್ತದೆ, ಇದರಿಂದ ಬಳಕೆದಾರರು ನಿರ್ಲಕ್ಷಿಸುತ್ತಿದ್ದ ಪ್ರಾಂಪ್ಟ್‌ಗಳ ಸುರಿಮಳೆಯನ್ನು ಕೊನೆಗೊಳಿಸಬಹುದು.

ಕೇವಲ AI ವಿಧಾನದ ಮಿತಿಗಳು

ಈ ಕ್ಲಾಸಿಫೈಯರ್ ಒಂದು ಸಾರ್ವತ್ರಿಕ ಸುರಕ್ಷತಾ ಸಾಧನವಲ್ಲ. ಇದು ಹಾನಿಯ ಸಾಮಾನ್ಯ ಪರಿಕಲ್ಪನೆಗಳನ್ನು ಕಲಿತಿದೆಯೇ ಹೊರತು ಯಾವುದೇ ಕೋಡ್‌ಬೇಸ್‌ನ (codebase) ನಿರ್ದಿಷ್ಟ ವಿವರಗಳನ್ನು ಅಲ್ಲ. "tmp" ಎಂಬ ಹೆಸರಿನ ಫೋಲ್ಡರ್ ಹೆಚ್ಚಿನ ಪ್ರಾಜೆಕ್ಟ್‌ಗಳಲ್ಲಿ ಹಾನಿಕಾರಕವಾಗಿರುವುದಿಲ್ಲ, ಆದರೆ ನಿಮ್ಮ ಪ್ರಾಜೆಕ್ಟ್‌ನಲ್ಲಿ ಅದು ನಿರ್ಣಾಯಕ ಬಿಲ್ಡ್ ಆರ್ಟಿಫ್ಯಾಕ್ಟ್‌ಗಳನ್ನು (build artifacts) ಹೊಂದಿರಬಹುದು; ಮಾಡೆಲ್ ಅದನ್ನು ಸುರಕ್ಷಿತವೆಂದು ಪರಿಗಣಿಸುವ ಸಾಧ್ಯತೆಯಿದೆ. ಅಧ್ಯಯನದ ಕಾರ್ಯಕ್ಷಮತೆಯು ಪ್ರತಿಯೊಂದು ಪ್ರೊಡಕ್ಷನ್ ಪರಿಸರದಲ್ಲಿ (production environment) ಒಂದೇ ರೀತಿಯ ಫಲಿತಾಂಶಗಳನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ಖಾತರಿಪಡಿಸುವುದಿಲ್ಲ. ಎಡ್ಜ್ ಕೇಸ್‌ಗಳು (Edge cases)—ವಿಶೇಷವಾಗಿ ಕಸ್ಟಮ್ ಟೂಲಿಂಗ್ ಅಥವಾ ಸೂಕ್ಷ್ಮ ಮೂಲಸೌಕರ್ಯಗಳಿಗೆ ಸಂಬಂಧಿಸಿದವುಗಳಿಗೆ—ಇನ್ನೂ ಸ್ಪಷ್ಟವಾದ ಅನುಮತಿ ಸೆಟ್ಟಿಂಗ್‌ಗಳು ಅಥವಾ ಹೆಚ್ಚಿನ ಮೇಲ್ವಿಚಾರಣೆಯ ಅಗತ್ಯವಿದೆ.

ಬಳಕೆದಾರರು ಈಗ ಏನು ಮಾಡಬೇಕಾಗಿದೆ

  • ಹೊಸ ಅನುಮತಿ ಮೋಡ್ ಅನ್ನು ಪರಿಶೀಲಿಸಿ: Pro, Max, ಮತ್ತು Team ಪ್ಲಾನ್‌ಗಳು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಕ್ಲಾಸಿಫೈಯರ್ ಅನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತವೆ. ನೀವು ಕಸ್ಟಮ್ ಅನುಮತಿ ವರ್ಕ್‌ಫ್ಲೋವನ್ನು ಅವಲಂಬಿಸಿದ್ದರೆ, ಅದು ನಿಮ್ಮ ಭದ್ರತಾ ನೀತಿಗಳೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆಯಾಗುತ್ತಿದೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಿ.
  • ಹೆಚ್ಚಿನ ಅಪಾಯದ ಕ್ರಮಗಳನ್ನು ಗುರುತಿಸಿ: ನಿಮ್ಮ CI/CD ಪೈಪ್‌ಲೈನ್‌ಗಳು ಮತ್ತು ಡಿಪ್ಲಾಯ್‌ಮೆಂಟ್ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ಮೂರು ಟ್ರಿಗ್ಗರ್ ವರ್ಗಗಳಿಗೆ ಮ್ಯಾಪ್ ಮಾಡಿ. ಡಿಫಾಲ್ಟ್ ಕ್ಲಾಸಿಫೈಯರ್ ಸಾಕಾಗದಿದ್ದರೆ, ಮರಳಿ ಪಡೆಯಲಾಗದ ಅಥವಾ ವಿನಾಶಕಾರಿ ಹಂತಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳಿಗೆ ಸ್ಪಷ್ಟವಾದ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಸೇರಿಸಲು ಹೊಂದಿಸಿ.
  • ಕ್ಲಾಸಿಫೈಯರ್ ಅಲರ್ಟ್‌ಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ: ಅಡ್ಡಿಪಡಿಸುವಿಕೆಯ ಆವರ್ತನ ಮತ್ತು ನಿಖರತೆಯನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಿ. ಆರಂಭಿಕ ಪ್ರತಿಕ್ರಿಯೆಯು Anthropic ಮಾಡೆಲ್ ಅನ್ನು ಸುಧಾರಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ ಮತ್ತು ನಿರ್ದಿಷ್ಟ ವರ್ಕ್‌ಫ್ಲೋಗಳಿಗಾಗಿ ಮ್ಯಾನುಯಲ್ ಕನ್ಫರ್ಮೇಶನ್‌ಗಳನ್ನು (manual confirmations) ಮರು-ಸಕ್ರಿಯಗೊಳಿಸಲು ನಿಮಗೆ ಸೂಚಿಸಬಹುದು.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

ಮಾನವನ ಪ್ರತಿಫಲಿತ ಕ್ಲಿಕ್‌ಗಳಿಂದ ತರಬೇತಿ ಪಡೆದ ಮಾಡೆಲ್‌ಗೆ ಬದಲಾಗುವುದು, ಅನೇಕ CI ಪೈಪ್‌ಲೈನ್‌ಗಳಲ್ಲಿ ಅಸ್ತಿತ್ವದಲ್ಲಿದ್ದ ಸುರಕ್ಷತಾ ಅಂತರವನ್ನು ಮುಚ್ಚುವ ಸ್ಪಷ್ಟ ಪ್ರಯತ್ನವಾಗಿದೆ.

ಮೂಲ: https://dev.to/code_with_kyryl/97-of-your-ai-approval-clicks-were-reflexes-18lg