Hugging Face ಉಲ್ಲಂಘನೆ: ಸ್ವಾಯತ್ತ AI ಏಜೆಂಟ್‌ಗಳು ಸೈಬರ್ ಯುದ್ಧದ ಯುಗಕ್ಕೆ ಪ್ರವೇಶಿಸುತ್ತಿವೆ

Hugging Face ತನ್ನ ಪ್ರೊಡಕ್ಷನ್ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್‌ನಲ್ಲಿ ಸಂಭವಿಸಿದ ಅತ್ಯಾಧುನಿಕ ಉಲ್ಲಂಘನೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸಿದೆ, ಇದನ್ನು ಒಂದು ಸ್ವಾಯತ್ತ AI ಏಜೆಂಟ್ ವ್ಯವಸ್ಥೆಯು ಯೋಜಿಸಿದೆ ಎಂದು ಹೇಳಲಾಗಿದೆ. ಈ ಘಟನೆಯು ಸೈಬರ್ ಸುರಕ್ಷತೆಯಲ್ಲಿ ಒಂದು ಮಹತ್ವದ ಕ್ಷಣವನ್ನು ಸೂಚಿಸುತ್ತದೆ, ಇದು "ಏಜೆಂಟಿಕ್ ದಾಳಿಗಾರರು" (agentic attackers) ಕೇವಲ ಸೈದ್ಧಾಂತಿಕ ಬೆದರಿಕೆಯಲ್ಲ, ಬದಲಾಗಿ ಒಂದು ಕಾರ್ಯಗತ ವಾಸ್ತವ ಎಂಬುದನ್ನು ತೋರಿಸಿಕೊಡುತ್ತದೆ.

ಏಜೆಂಟಿಕ್ ದಾಳಿಯ ವಿಶ್ಲೇಷಣೆ

ಈ ಉಲ್ಲಂಘನೆಯು AI ಜೀವನಚಕ್ರದ ಒಂದು ದುರ್ಬಲ ಭಾಗದಿಂದ ಪ್ರಾರಂಭವಾಯಿತು: ಡೇಟಾ ಪ್ರೊಸೆಸಿಂಗ್ ಪೈಪ್‌ಲೈನ್. Hugging Face ಪ್ರಕಾರ, ದಾಳಿಗಾರನು ಎರಡು ನಿರ್ದಿಷ್ಟ ಕೋಡ್ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಪಥಗಳನ್ನು ಬಳಸಿಕೊಳ್ಳಲು ಒಂದು ದುಷ್ಟ ಡೇಟಾ ಸೆಟ್ ಅನ್ನು ಬಳಸಿಕೊಂಡನು—ಅದೆಂದರೆ ರಿಮೋಟ್ ಕೋಡ್ ಡೇಟಾ ಸೆಟ್ ಲೋಡರ್ ಮತ್ತು ಡೇಟಾ ಸೆಟ್ ಕಾನ್ಫಿಗರೇಶನ್‌ನಲ್ಲಿನ ಟೆಂಪ್ಲೇಟ್ ಇಂಜೆಕ್ಷನ್.

ಒಮ್ಮೆ ಒಳಗೆ ಪ್ರವೇಶಿಸಿದ ನಂತರ, ದಾಳಿಯು ಯಂತ್ರದ ವೇಗದಲ್ಲಿ ಸಾಗಿತು. ಏಜೆಂಟಿಕ್ ಸೆಕ್ಯೂರಿಟಿ ರಿಸರ್ಚ್ ಹಾರ್ನೆಸ್‌ನಿಂದ ಚಾಲಿತವಾದ ಸ್ವಾಯತ್ತ ಏಜೆಂಟ್ ಫ್ರೇಮ್‌ವರ್ಕ್, ನೋಡ್ ಮಟ್ಟದವರೆಗೆ ಅಧಿಕಾರವನ್ನು ಹೆಚ್ಚಿಸಿಕೊಂಡಿತು (escalated privileges). ಈ ವ್ಯವಸ್ಥೆಯು ಕ್ಲೌಡ್ ಮತ್ತು ಕ್ಲಸ್ಟರ್ ಕ್ರೆಡೆನ್ಶಿಯಲ್‌ಗಳನ್ನು ಯಶಸ್ವಿಯಾಗಿ ಸಂಗ್ರಹಿಸಿತು ಮತ್ತು ವಾರಾಂತ್ಯದ ಉದ್ದಕ್ಕೂ ಹಲವಾರು ಆಂತರಿಕ ಕ್ಲಸ್ಟರ್‌ಗಳ ಮೂಲಕ ಪಾರ್ಶ್ವವಾಗಿ (laterally) ಚಲಿಸಿತು. ದಾಳಿಗಾರನು ಸಾವಿರಾರು ವೈಯಕ್ತಿಕ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಳ್ಳಲು ಅಲ್ಪಾವಧಿಯ ಸ್ಯಾಂಡ್‌ಬಾಕ್ಸ್‌ಗಳ ಸಮೂಹ ಮತ್ತು ಸ್ವಯಂ-ವಲಸೆ ಹೋಗುವ ಕಮಾಂಡ್-ಅಂಡ್-ಕಂಟ್ರೋಲ್ (C2) ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಅನ್ನು ಬಳಸಿಕೊಂಡನು, ಇದು ಈ ಅಭಿಯಾನವನ್ನು ಅತ್ಯಂತ ಸ್ಥಿತಿಸ್ಥಾಪಕ ಮತ್ತು ಪತ್ತೆಹಚ್ಚಲು ಕಷ್ಟವಾಗುವಂತೆ ಮಾಡಿತು.

AI vs. AI: ಫೊರೆನ್ಸಿಕ್ಸ್‌ಗಾಗಿ ಹೋರಾಟ

ಯಂತ್ರದ ವೇಗದ ದಾಳಿಗೆ ನೇರ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ, Hugging Face ತನ್ನದೇ ಆದ AI-ಚಾಲಿತ ರಕ್ಷಣಾ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ನಿಯೋಜಿಸಿತು. ಕಂಪನಿಯು ಸೆಕ್ಯೂರಿಟಿ ಟೆಲಿಮೆಟ್ರಿಯ ಮೇಲೆ LLM-ಆಧಾರಿತ ಟ್ರಯಾಜ್ (triage) ಮಾಡುವ AI-ಚಾಲಿತ ಅನಾಮಧೇಯತೆ ಪತ್ತೆಹಚ್ಚುವ (anomaly detection) ಪೈಪ್‌ಲೈನ್ ಅನ್ನು ಬಳಸಿಕೊಂಡಿತು.

17,000 ಕ್ಕೂ ಹೆಚ್ಚು ದಾಖಲಾದ ದಾಳಿಗಾರರ ಕ್ರಮಗಳನ್ನು ಒಳಗೊಂಡ ಈ ಘಟನೆಯ ಬೃಹತ್ ಪ್ರಮಾಣವನ್ನು ನಿರ್ವಹಿಸಲು, ತಂಡವು LLM-ಚಾಲಿತ ವಿಶ್ಲೇಷಣಾ ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿಯೋಜಿಸಿತು. ಈ ಏಜೆಂಟ್‌ಗಳು ದಾಳಿಯ ಕಾಲಾನುಕ್ರಮವನ್ನು ಮರುನಿರ್ಮಿಸಲು, ಸಂಕ್ರಾಮಿತ ಸೂಚಕಗಳನ್ನು (IoCs) ಹೊರತೆಗೆಯಲು ಮತ್ತು ಬಾಧಿತ ಕ್ರೆಡೆನ್ಶಿಯಲ್‌ಗಳನ್ನು ನಕ್ಷೆ ಮಾಡಲು ಸಾಧ್ಯವಾಯಿತು. ಈ ಸ್ವಯಂಚಾಲಿತ ಫೊರೆನ್ಸಿಕ್ ಪ್ರಕ್ರಿಯೆಯು ಮಾನವ ವಿಶ್ಲೇಷಕರಿಗೆ ಸಾಮಾನ್ಯವಾಗಿ ದಿನಗಟ್ಟಲೆ ತೆಗೆದುಕೊಳ್ಳುವ ಕೆಲಸವನ್ನು ಕೇವಲ ಕೆಲವು ಗಂಟೆಗಳಲ್ಲಿ ಪೂರ್ಣಗೊಳಿಸಿತು.

"Safety Guardrail" ವಿರೋಧಾಭಾಸ

ತನಿಖೆಯ ಸಮಯದಲ್ಲಿ ವಾಣಿಜ್ಯ ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್‌ಗಳ ವೈಫಲ್ಯವು ಈ ಘಟನೆಯ ಅತ್ಯಂತ ಗಮನಾರ್ಹ ತಾಂತ್ರಿಕ ಬಹಿರಂಗಪಡಿಸುವಿಕೆಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ. Hugging Face ಎಂಜಿನಿಯರ್‌ಗಳು ಪ್ರಮುಖ ವಾಣಿಜ್ಯ APIಗಳನ್ನು ಬಳಸಿಕೊಂಡು ದಾಳಿಯ ಲಾಗ್‌ಗಳನ್ನು ವಿಶ್ಲೇಷಿಸಲು ಪ್ರಯತ್ನಿಸಿದಾಗ, ಅವರು ಪದೇ ಪದೇ ಸೇಫ್ಟಿ ಫಿಲ್ಟರ್‌ಗಳಿಂದ ತಡೆಯಲ್ಪಟ್ಟರು. ಲಾಗ್‌ಗಳು ನೈಜ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್ ಪೇಲೋಡ್‌ಗಳು ಮತ್ತು C2 ಆರ್ಟಿಫ್ಯಾಕ್ಟ್‌ಗಳನ್ನು ಒಳಗೊಂಡಿದ್ದರಿಂದ, ಮಾಡೆಲ್‌ಗಳ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ಕಾನೂನುಬದ್ಧ ಫೊರೆನ್ಸಿಕ್ ತನಿಖಾಧಿಕಾರಿ ಮತ್ತು ದುಷ್ಟ ದಾಳಿಗಾರನ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸಲು ಸಾಧ್ಯವಾಗಲಿಲ್ಲ.

ಈ ಅಡೆತಡೆಯನ್ನು ನಿವಾರಿಸಲು, Hugging Face ತನ್ನದೇ ಆದ ಆಂತರಿಕ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್‌ನಲ್ಲಿ ಚಲಿಸುವ ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್ GLM 5.2 ಗೆ ಬದಲಾಯಿತು. ಇದು ಬಾಹ್ಯ ಸೇಫ್ಟಿ ಪ್ರೊಟೊಕಾಲ್‌ಗಳನ್ನು ಉಲ್ಲಂಘಿಸದೆ ಅಥವಾ ಮೂರನೇ ವ್ಯಕ್ತಿ ಪೂರೈಕೆದಾರರಿಗೆ ಕ್ರೆಡೆನ್ಶಿಯಲ್‌ಗಳನ್ನು ಸೋರಿಕೆ ಮಾಡದೆ ಸೂಕ್ಷ್ಮ ಡೇಟಾ ಮತ್ತು ಕಚ್ಚಾ ದಾಳಿ ಕಮಾಂಡ್‌ಗಳನ್ನು ಪ್ರೊಸೆಸ್ ಮಾಡಲು ತಂಡಕ್ಕೆ ಅನುಮತಿಸಿತು.

AI ಪರಿಸರಕ್ಕೆ ಇದು ಏಕೆ ಮುಖ್ಯ

"ಏಜೆಂಟಿಕ್ ದಾಳಿಗಾರ" ಸನ್ನಿವೇಶವು ಅಧಿಕೃತವಾಗಿ ಬಂದಿದೆ ಎಂಬುದನ್ನು ಈ ಘಟನೆಯು ದೃಢೀಕರಿಸುತ್ತದೆ. ಈ ವ್ಯವಸ್ಥೆಗಳು ಬಹು-ಹಂತದ ಅಭಿಯಾನಗಳ ವೆಚ್ಚವನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತವೆ ಮತ್ತು ಹೆಚ್ಚು ಸ್ಕೇಲೆಬಲ್ ಆಗಿರುವ, ಸ್ವಯಂಚಾಲಿತ ನುಸುಳುವಿಕೆಗೆ ಅವಕಾಶ ನೀಡುತ್ತವೆ. ಇದಲ್ಲದೆ, ಇದು ಪ್ರಸ್ತುತ AI ಸುರಕ್ಷತೆಯಲ್ಲಿನ ಒಂದು ನಿರ್ಣಾಯಕ ಕೊರತೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ: ವಾಣಿಜ್ಯ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ಬಿಕ್ಕಟ್ಟಿನ ಸಮಯದಲ್ಲಿ ಅರಿಯದೇ ರಕ್ಷಕರನ್ನು ಕುರುಡು ಮಾಡಬಹುದು.

Hugging Face ಬಳಕೆಯಾದ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಪಥಗಳನ್ನು ಮುಚ್ಚುವ ಮೂಲಕ, ಕ್ರೆಡೆನ್ಶಿಯಲ್‌ಗಳನ್ನು ಬದಲಾಯಿಸುವ ಮೂಲಕ ಮತ್ತು ಬಾಧಿತ ನೋಡ್‌ಗಳನ್ನು ಮರುನಿರ್ಮಿಸುವ ಮೂಲಕ ಬೆದರಿಕೆಯನ್ನು ತಗ್ಗಿಸಿದೆ. ಆದಾಗ್ಯೂ, ಉದ್ಯಮಕ್ಕೆ ಸಿಕ್ಕ ದೊಡ್ಡ ಪಾಠ ಸ್ಪಷ್ಟವಾಗಿದೆ: ದಾಳಿಗಳ ವ್ಯಾಪ್ತಿಯು ಡೇಟಾ ಮತ್ತು ಮಾಡೆಲ್ ಕಾನ್ಫಿಗರೇಶನ್‌ಗಳನ್ನು ಒಳಗೊಳ್ಳುವಂತೆ ವಿಸ್ತರಿಸುತ್ತಿದ್ದಂತೆ, ಘಟನೆಯ ಸಮಯದಲ್ಲಿ ಕಾರ್ಯಾಚರಣೆಯ ಸಾರ್ವಭೌಮತೆಯನ್ನು ಕಾಪಾಡಿಕೊಳ್ಳಲು ರಕ್ಷಕರು ಸಮರ್ಥವಾದ, ಸೆಲ್ಫ್-ಹೋಸ್ಟೆಡ್, ಓಪನ್-ವೇಟ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಹೊಂದಿರಬೇಕು.

ಪ್ರಮುಖ ಅಂಶಗಳು

• ಸ್ವಾಯತ್ತ ಯುದ್ಧವು ವಾಸ್ತವವಾಗಿದೆ: ಈ ದಾಳಿಯನ್ನು ಪಾರ್ಶ್ವ ಚಲನೆ (lateral movement) ಮತ್ತು ಸ್ವಯಂ-ವಲಸೆ ಹೋಗುವ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ ಸ್ವಾಯತ್ತ ಏಜೆಂಟ್ ಫ್ರೇಮ್‌ವರ್ಕ್ ಮೂಲಕ ನಡೆಸಲಾಯಿತು.
• ಗಾರ್ಡ್‌ರೈಲ್ ಕೊರತೆ: ವಾಣಿಜ್ಯ LLM ಸೇಫ್ಟಿ ಫಿಲ್ಟರ್‌ಗಳು ನೈಜ ಪ್ರಪಂಚದ ಎಕ್ಸ್‌ಪ್ಲಾಯ್ಟ್ ಪೇಲೋಡ್‌ಗಳ ವಿಶ್ಲೇಷಣೆಯನ್ನು ತಡೆಯುವ ಮೂಲಕ ಫೊರೆನ್ಸಿಕ್ ತನಿಖೆಗಳಿಗೆ ಅಡ್ಡಿಪಡಿಸಬಹುದು.
• ರಕ್ಷಣೆಗಾಗಿ ಸಾರ್ವಭೌಮತೆ ಅಗತ್ಯ: ಯಂತ್ರದ ವೇಗದ ದಾಳಿಗಳನ್ನು ಎದುರಿಸಲು, ಸಂಸ್ಥೆಗಳು ತಮ್ಮದೇ ಆದ LLM-ಆಧಾರಿತ ಸೆಕ್ಯೂರಿಟಿ ಏಜೆಂಟ್‌ಗಳನ್ನು ಖಾಸಗಿ ಇನ್ಫ್ರಾಸ್ಟ್ರಕ್ಚರ್‌ನಲ್ಲಿ ನಿಯೋಜಿಸಬೇಕು.