OpenAI ಈಗ GitHub ಗೆ codex-security ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ – ಇದು npm ಮೂಲಕ ಇನ್‌ಸ್ಟಾಲ್ ಮಾಡಬಹುದಾದ ಸ್ಕ್ಯಾನರ್ ಆಗಿದ್ದು, ರೆಪೊಸಿಟರಿಯ ಮೂರು ಹಂತಗಳ ವಿಶ್ಲೇಷಣೆಯನ್ನು ನಡೆಸುತ್ತದೆ ಮತ್ತು ಬಗ್‌ಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಸರಿಪಡಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತದೆ.

ಈ ಬಿಡುಗಡೆಯು ಗಮನಕ್ಕೆ ತರದೆ ಬಿಟ್ಟಿರುವ ವಿಷಯವೆಂದರೆ, ಇತ್ತೀಚಿನ sandbox-bypass ಪ್ರದರ್ಶನಗಳು ಬಹಿರಂಗಪಡಿಸಿರುವ ಒಂದು ಆಳವಾದ ದೋಷ. Cursor, Codex CLI, Gemini CLI ಮತ್ತು Google Antigravity ನಂತಹ ಪರಿಕರಗಳಿಗಾಗಿ "ಲಾಕ್-ಡೌನ್" ಮಾಡಲಾದ ಪರಿಸರದಲ್ಲಿ ಚಾಲನೆಯಲ್ಲಿರುವ ಏಜೆಂಟ್‌ಗಳು, sandbox ಅನ್ನು ಹೋಸ್ಟ್ ಸಿಸ್ಟಮ್‌ಗೆ ಸಂಪರ್ಕಿಸುವ ಇಂಟರ್ಫೇಸ್‌ಗಳನ್ನೇ ಬಳಸಿಕೊಂಡು ಉದ್ದೇಶಿತ ರಕ್ಷಣೆಯಿಂದ ತಪ್ಪಿಸಿಕೊಳ್ಳಬಹುದು ಎಂದು ಸಂಶೋಧಕರು ತೋರಿಸಿದ್ದಾರೆ. ಹೊಸ OpenAI ಸ್ಕ್ಯಾನರ್ ಈ ಅಟ್ಯಾಕ್ ಸರ್ಫೇಸ್ (attack surface) ಅನ್ನು ಸ್ಪರ್ಶಿಸುವುದಿಲ್ಲ.

ಬೈಪಾಸ್‌ಗಳು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತವೆ

ಏಜೆಂಟ್‌ಗಳು ತಮ್ಮ ಕಂಟೇನರ್‌ಗಳ ಒಳಗೆ ಇರುತ್ತವೆ, ಆದರೆ ಅವು ಡಿಸ್ಕ್‌ಗೆ ಬರೆಯುವ ಪ್ರತಿಯೊಂದನ್ನೂ ಹೊರಗಿನ ಸಹಾಯಧಾರಿಗಳು (external helpers) – ಅಂದರೆ git hooks, Python extensions, Docker daemons ಮತ್ತು ಅಂತಹ ಸೇವೆಗಳು ತಕ್ಷಣವೇ ನಂಬುತ್ತವೆ. ಆ ಸಹಾಯಧಾರಿಗಳು ಫೈಲ್‌ಗಳನ್ನು ಓದುತ್ತವೆ, ಅವುಗಳನ್ನು ಕಾನೂನುಬದ್ಧವೆಂದು ಪರಿಗಣಿಸುತ್ತವೆ ಮತ್ತು ಬಳಕೆದಾರರಿಗೆ ಯಾವುದೇ ಸೂಚನೆ ನೀಡದೆ ಹೋಸ್ಟ್‌ನಲ್ಲಿ ಅವುಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತವೆ.

  • Cursor ಏಜೆಂಟ್ sandbox ಹೊರಗೆ ಚಲಿಸುವ git hook ಅನ್ನು ನೋಂದಾಯಿಸಲು ಅವಕಾಶ ಮಾಡಿಕೊಟ್ಟಿತು.
  • Codex CLI git ಕಮಾಂಡ್‌ಗಳಲ್ಲಿನ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳನ್ನು ಪರಿಶೀಲಿಸುವಲ್ಲಿ ವಿಫಲವಾಯಿತು, ಇದು ಅನಿಯಂತ್ರಿತ ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಗೆ (arbitrary execution) ದಾರಿ ಮಾಡಿಕೊಟ್ಟಿತು.
  • ಹಲವಾರು ಏಜೆಂಟ್‌ಗಳು Docker socket ಗೆ ನೇರ ಪ್ರವೇಶವನ್ನು ಪಡೆದವು, ಇದು ಹೋಸ್ಟ್ ಮೆಷಿನ್‌ನಲ್ಲಿ ಕಂಟೇನರ್‌ಗಳನ್ನು ಪ್ರಾರಂಭಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುವ ಒಂದು ವಿಶೇಷ ಪ್ರವೇಶ ಪಾಯಿಂಟ್ ಆಗಿದೆ.
  • DuneSlide ದೋಷಗಳು ದಾಳಿಕೋರರು sandbox ಅನ್ನು ಜಾರಿಗೊಳಿಸುವ ಘಟಕವನ್ನು (component) ಓವರ್‌ರೈಟ್ ಮಾಡಲು ಅವಕಾಶ ಮಾಡಿಕೊಡುತ್ತವೆ, ಇದು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಆ ಗೋಡೆಯನ್ನೇ ಸಂಪೂರ್ಣವಾಗಿ ತೆಗೆದುಹಾಕುತ್ತದೆ.

ಪ್ರತಿ ಸಂದರ್ಭದಲ್ಲೂ ಈ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್ (exploit) ಸುಪ್ತವಾಗಿ ಬಂದವು – ಅಂದರೆ ವೆಬ್-ಸರ್ಚ್ ಫಲಿತಾಂಶ ಅಥವಾ ಏಜೆಂಟ್ ಬಳಸಿದ ಮಲ್ಟಿ-ಚಾಯ್ಸ್-ಪ್ರಾಂಪ್ಟ್ (MCP) ಪರಿಕರದಿಂದ ಬಂದ ಪ್ರತಿಕ್ರಿಯೆಯ ರೂಪದಲ್ಲಿ. ದುಷ್ಟ ಕೋಡ್ (malicious payload) ಕಾರ್ಯಗತಗೊಂಡಿತು, ಮಾಯವಾಯಿತು ಮತ್ತು ಸ್ಟ್ಯಾಟಿಕ್ ಕೋಡ್ ಸ್ಕ್ಯಾನ್‌ನಲ್ಲಿ ಎಂದಿಗೂ ಕಾಣಿಸಲಿಲ್ಲ.

OpenAI ನ ಪರಿಕರವು ಗುರಿಯನ್ನು ತಪ್ಪಿಸಿಕೊಳ್ಳುತ್ತಿರುವುದು ಏಕೆ?

Codex-security static analysis ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸುತ್ತದೆ: ಇದು ನೀವು ಕಮಿಟ್ ಮಾಡುವ ಸೋರ್ಸ್ ಫೈಲ್‌ಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ, ಅಸುರಕ್ಷಿತ ಮಾದರಿಗಳನ್ನು ಗುರುತಿಸುತ್ತದೆ ಮತ್ತು ಅವುಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಮರುಬರೆಯಬಲ್ಲದು. ಈ ವಿಧಾನವು ಕೋಡ್ ಅನ್ನು ಕಳುಹಿಸುವ (ship) ಮೊದಲು ಅಸಮರ್ಪಕ ಅಥವಾ ಅಪಾಯಕಾರಿ ಕೋಡ್ ಅನ್ನು ಹಿಡಿಯುತ್ತದೆ, ಆದರೆ ಇದು ನೀವು ಕಳುಹಿಸುವ ಕೋಡ್ ಅನ್ನು ಮಾತ್ರ ಸ್ಕ್ಯಾನ್ ಮಾಡುತ್ತದೆ, ಆದರೆ ದಾಳಿಗಳು ಏಜೆಂಟ್‌ನ ರನ್‌ಟೈಮ್ ಎನ್ವಿರಾನ್‌ಮೆಂಟ್‌ನಲ್ಲಿ (runtime environment) ಸಂಭವಿಸುತ್ತವೆ.

Sandbox ಬೈಪಾಸ್‌ಗಳು ನಿಜವಾದ ಅಪಾಯವು AI sandbox ಮತ್ತು ಡೆವಲಪರ್‌ನ ಉಳಿದ ಟೂಲ್‌ಚೈನ್ ನಡುವಿನ runtime bridge ನಲ್ಲಿ ಅಡಗಿದೆ ಎಂದು ತೋರಿಸುತ್ತವೆ. ದಾಳಿಕೋರರು ರೆಪೊಸಿಟರಿಗೆ ದುಷ್ಟ ಕೋಡ್ ಅನ್ನು ಇಂಜೆಕ್ಟ್ ಮಾಡುವ ಅಗತ್ಯವಿಲ್ಲ; ಹೊರಗಿನ ಪ್ರಕ್ರಿಯೆಯು ನಂತರ ಕಾರ್ಯಗತಗೊಳಿಸುವಂತಹ ಫೈಲ್ ಅನ್ನು ಬರೆಯಲು ಅವರು sandboxed ಏಜೆಂಟ್ ಅನ್ನು ಒಪ್ಪಿಸಿದರೆ ಸಾಕು.

ಯಾರು ಗೆಲ್ಲುತ್ತಾರೆ, ಯಾರು ಸೋಲುತ್ತಾರೆ

  • ಡೆವಲಪರ್‌ಗಳು
  • ಟೂಲ್ ಮಾರಾಟಗಾರರು
  • OpenAI
  • ದಾಳಿಕೋರರು

ಸಮುದಾಯವು ಈಗ ಏನು ಮಾಡಬಹುದು

ಮುಖ್ಯವಾದ ಪರಿಹಾರಗಳು ಕೇವಲ ಕೋಡ್ ಮಟ್ಟದಲ್ಲಿರದೆ, ಕಾರ್ಯಾಚರಣೆಯ ಮಟ್ಟದಲ್ಲಿ (operational) ಇರಬೇಕು. AI ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು ಸಂಯೋಜಿಸುವ (integrating) ಯಾರೇ ಆಗಲಿ ತೆಗೆದುಕೊಳ್ಳಬೇಕಾದ ಪ್ರಾಯೋಗಿಕ ಕ್ರಮಗಳು ಇಲ್ಲಿವೆ:

  • ಏಜೆಂಟ್ ಆವೃತ್ತಿಗಳನ್ನು (agent versions) ಸ್ಥಿರಗೊಳಿಸಿ (Pin) ಮತ್ತು ಅಪ್‌ಗ್ರೇಡ್ ಮಾಡುವ ಮೊದಲು ಚೇಂಜ್‌ಲಾಗ್‌ಗಳನ್ನು ಓದಿ. ಹೊಸ ಬಿಡುಗಡೆಗಳು ಅರಿಯದೆಯೇ ಹೊಸ ಹೂಕ್ ಅಥವಾ ಸಾಕೆಟ್ ಅನ್ನು ತೆರೆಯಬಹುದು.
  • “clone and explore” ಅನ್ನು ಅಜ್ಞಾತ ಕೋಡ್ ಅನ್ನು ಚಲಾಯಿಸುವುದರಂತೆ ಪರಿಗಣಿಸಿ. ಹೆಚ್ಚುವರಿ ಐಸೊಲೇಶನ್ ಇಲ್ಲದೆ ನೀವು ನಿಯಂತ್ರಣದಲ್ಲಿಲ್ಲದ ರೆಪೊಸಿಟರಿಗೆ ಎಂದಿಗೂ ಏಜೆಂಟ್ ಅನ್ನು ಬಳಸಬೇಡಿ.
  • ಪ್ರತಿಯೊಂದು ಪೂರಕ ಪರಿಕರವನ್ನು (auxiliary tool) ಆಡಿಟ್ ಮಾಡಿ (git hooks, Python extensions, Docker access). ಏಜೆಂಟ್‌ನ ಔಟ್‌ಪುಟ್ ಆಧಾರದ ಮೇಲೆ ಒಂದು ಡೈರೆಕ್ಟರಿ ಅಥವಾ ಸಿಮ್‌ಲಿಂಕ್ ಅನ್ನು ಮಾರ್ಪಡಿಸಬಲ್ಲದಿದ್ದರೆ, ಅದನ್ನು ಶಸ್ತ್ರಾಸ್ತ್ರವಾಗಿ ಬಳಸಬಹುದು ಎಂದು ಭಾವಿಸಿ.
  • Sandbox ನಿಂದ Docker socket ಪ್ರವೇಶವನ್ನು ತೆಗೆದುಹಾಕಿ.
  • ಯಾವುದು ಯಾವುದನ್ನು ಓದುತ್ತದೆ ಎಂದು ಕೇಳಿ. Sandbox ನಿಂದ ಹೋಸ್ಟ್ ವರೆಗಿನ ಡೇಟಾ ಹರಿವನ್ನು (data flow) ನಕ್ಷೆ ಮಾಡಿ; ಏಜೆಂಟ್ ಬರೆಯುವ ಫೈಲ್‌ಗಳನ್ನು ಬಳಸುವ ಯಾವುದೇ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಸೂಕ್ಷ್ಮವಾಗಿ ಪರಿಶೀಲಿಸಬೇಕು.

ವಿರೋಧಾತ್ಮಕ ಅಂಶ: codex-security ಏಕೆ ಇನ್ನೂ ಮುಖ್ಯವಾಗಿದೆ

ಈ ಸ್ಕ್ಯಾನರ್ ಸಮಸ್ಯೆಯ ಒಂದು ಭಾಗವನ್ನು ಸುಧಾರಿಸುತ್ತದೆ, ಆದರೆ ರನ್‌ಟೈಮ್ ಬ್ರಿಡ್ಜ್ ಅನ್ನು ಬಲಪಡಿಸುವ (harden) ಅಗತ್ಯವನ್ನು ಇದು ಬದಲಿಸುವುದಿಲ್ಲ.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

  • ಸಮುದಾಯ ಚಾಲಿತ ಬಲವರ್ಧನೆ ಮಾರ್ಗದರ್ಶಿಗಳು (Community-driven hardening guides) ដែល AI ಏಜೆಂಟ್‌ಗಳೊಂದಿಗೆ ಬಳಸುವಾಗ ಸಾಮಾನ್ಯ ಡೆವಲಪರ್ ಟೂಲ್‌ಚೈನ್‌ಗಳಿಗೆ ಸುರಕ್ಷಿತ ಕಾನ್ಫಿಗರೇಶನ್‌ಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತವೆ.

ಮುಖ್ಯಾಂಶವು ಹೊಸ ಸೆಕ್ಯೂರಿಟಿ ಸ್ಕ್ಯಾನರ್ ಅನ್ನು ಸಂಭ್ರಮಿಸಬಹುದು, ಆದರೆ ನಿಜವಾದ ವಿಷಯವೆಂದರೆ, ಸುತ್ತಲಿನ ಪರಿಸರ ವ್ಯವಸ್ಥೆಯು ಏಜೆಂಟ್ ಬರೆಯುವ ಎಲ್ಲವನ್ನೂ ನಂಬುತ್ತಿದ್ದರೆ, AI ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ನ sandbox ಕೇವಲ ಒಂದು ಮುಖವಾಡವಷ್ಟೇ ಆಗಿರುತ್ತದೆ. ರಕ್ಷಣೆಯ ಮುಂದಿನ ಅಲೆ ಕೋಡ್‌ಗಿಂತಲೂ ಮೀರಿದ ಮತ್ತು ಅದನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ ಪೈಪ್‌ಲೈನ್‌ಗಳತ್ತ ಗಮನ ಹರಿಸಬೇಕಾಗುತ್ತದೆ.