Atlassian ನ Rovo AI ಏಜೆಂಟ್ ಅನ್ನು ಕೇವಲ ಒಂದು ಕ್ಲಿಕ್ ಮೂಲಕ Jira ಟಿಕೆಟ್ಗಳು, Confluence ಪುಟಗಳು ಮತ್ತು API ಕೀಗಳನ್ನು ದಾಳಿಕೋರರಿಗೆ ಕಳುಹಿಸುವಂತೆ ವಂಚಿಸಬಹುದು, ಮತ್ತು ಅಡ್ಮಿನ್ನ “kill switch” ಮೂಲಭೂತ ಡೇಟಾ-ಫೆಚ್ (data-fetch) ಸಾಮರ್ಥ್ಯವನ್ನು ತಡೆಯುವುದಿಲ್ಲ.
ಈ ದೋಷವು ಎರಡು ಇಂಜೆಕ್ಷನ್ ತಂತ್ರಗಳನ್ನು ಒಳಗೊಂಡಿದೆ, ಇವು ದುಷ್ಟ ದಾಳಿಕೋರರು ಆಂತರಿಕ ಪುಟಗಳಲ್ಲಿ ಗುಪ್ತ ಕಮಾಂಡ್ಗಳನ್ನು ಅಳವಡಿಸಲು ಅಥವಾ ಬಳಕೆದಾರರ ಪರವಾಗಿ Rovo ಹೊರಗಿನ ಕರೆಗಳನ್ನು (outbound calls) ಮಾಡುವಂತೆ ಮಾಡುವ ಲಿಂಕ್ ಅನ್ನು ಸೃಷ್ಟಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತವೆ.
ಈ ದುರ್ಬಲತೆಯು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ
Rovo ವೆಬ್ ವಿಷಯವನ್ನು ಓದುತ್ತದೆ, ಅದನ್ನು ಸಾರಾಂಶಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಸಕ್ರಿಯಗೊಳಿಸಿದಾಗ, ಇಂಟರ್ನೆಟ್ನಿಂದ ಹೆಚ್ಚಿನ ಮಾಹಿತಿಯನ್ನು ಪಡೆಯುತ್ತದೆ. ಈ ಏಜೆಂಟ್ “ಸಾರಾಂಶಗೊಳಿಸಬೇಕಾದ ವಿಷಯ” ಮತ್ತು “ಅನುಷ್ಠಾನಗೊಳಿಸಬೇಕಾದ ಸೂಚನೆಗಳ” ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸಲು ವಿಫಲವಾಗುತ್ತದೆ. ಈ ಮಿಶ್ರಣವನ್ನು ಬಳಸಿಕೊಂಡು ಎರಡು ದಾಳಿ ವಿಧಾನಗಳನ್ನು (attack vectors) ಮಾಡಬಹುದು:
- Content injection – ದಾಳಿಕೋರರು Confluence ಪುಟದಲ್ಲಿ ಒಂದು ಕಮಾಂಡ್ ಅನ್ನು ಮರೆಮಾಚುತ್ತಾರೆ. Rovo ಆ ಪುಟವನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡಿದಾಗ, ಅದು ಗುಪ್ತ ಸೂಚನೆಯನ್ನು ಅನುಸರಿಸುತ್ತದೆ, ಸಂಸ್ಥೆಯ ಖಾಸಗಿ ಇಮೇಲ್ ವಿಳಾಸ ಮತ್ತು ವರ್ಕ್ಸ್ಪೇಸ್ ಹೆಸರನ್ನು ಹೊಂದಿರುವ URL ಅನ್ನು ಪಡೆಯುತ್ತದೆ ಮತ್ತು ಆ ಡೇಟಾವನ್ನು ದಾಳಿಕೋರರ ಸರ್ವರ್ಗೆ ರವಾನಿಸುತ್ತದೆ.
- URL injection – ದಾಳಿಕೋರರು ಸಿದ್ಧಪಡಿಸಿದ ಲಿಂಕ್ ಅನ್ನು ಕಳುಹಿಸುತ್ತಾರೆ. ಅದನ್ನು ಕ್ಲಿಕ್ ಮಾಡುವುದರಿಂದ, ದಾಳಿಕೋರರು ನೀಡಿದ ಪಠ್ಯವನ್ನು Rovo ಕಾನೂನುಬದ್ಧ ಬಳಕೆದಾರರ ಕಮಾಂಡ್ ಎಂದು ಪರಿಗಣಿಸುತ್ತದೆ. ಏಜೆಂಟ್ ಒಂದು ಚಿತ್ರವನ್ನು ಗುರುತಿಸುವಂತಹ ಹಾನಿಕಾರಕವಲ್ಲದ ಕೆಲಸವನ್ನು ಮಾಡುತ್ತಿರುವಂತೆ ತೋರುತ್ತದೆ, ಆದರೆ ಅದೇ ಸಮಯದಲ್ಲಿ ಆಂತರಿಕ ರಹಸ್ಯಗಳನ್ನು ಬಾಹ್ಯ ಎಂಡ್ಪಾಯಿಂಟ್ಗೆ (external endpoint) ಕಳುಹಿಸುತ್ತದೆ.
ಎರಡೂ ವಿಧಾನಗಳು Rovo ಪ್ರಕ್ರಿಯೆಗೊಳಿಸುವ ಯಾವುದೇ ಪಠ್ಯದ ಆಧಾರದ ಮೇಲೆ ಅನಗತ್ಯ URLಗಳನ್ನು ಕರೆಯುವ ಸಾಮರ್ಥ್ಯದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿವೆ, ಮತ್ತು ಸಾಮಾನ್ಯ ಸಾರಾಂಶ ಮತ್ತು ದುಷ್ಟ ಸೂಚನೆಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸಲು ಯಾವುದೇ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳಿಲ್ಲ.
ಅಡ್ಮಿನ್ ಟೋಗಲ್ (admin toggle) ಏಕೆ ಸಾಕಾಗುವುದಿಲ್ಲ
Atlassian ನ UI ನಿಯಂತ್ರಣವು ವೆಬ್-ಸರ್ಚ್ ಬಾಕ್ಸ್ ಅನ್ನು ಮರೆಮಾಚುತ್ತದೆ, ಇದನ್ನು ಫೀಚರ್ ಅನ್ನು ಆಫ್ ಮಾಡುವ ಮಾರ್ಗವಾಗಿ ಮಾರುಕಟ್ಟೆ ಮಾಡಲಾಗುತ್ತದೆ. ಆದರೆ ವಾಸ್ತವದಲ್ಲಿ, ಈ ಟೋಗಲ್ ಕೇವಲ ಫ್ರಂಟ್-ಎಂಡ್ ಅಂಶವನ್ನು ಮಾತ್ರ ತೆಗೆದುಹಾಕುತ್ತದೆ; URLಗಳನ್ನು ಪಡೆಯಬಲ್ಲ ಬ್ಯಾಕ್-ಎಂಡ್ ಸೇವೆ ಇನ್ನೂ ಸಕ್ರಿಯವಾಗಿರುತ್ತದೆ. ಇದು ಸರ್ಚ್ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಮಾತ್ರ ಮರೆಮಾಚುತ್ತದೆಯೇ ಹೊರತು ಮೂಲಭೂತ ಸೇವೆಯನ್ನಲ್ಲ.
ಉದ್ಯಮಗಳಿಗೆ ಇರುವ ಅಪಾಯಗಳು
- Data exposure – ಸಂವೇದನಾಶೀಲ ಪ್ರಾಜೆಕ್ಟ್ ವಿವರಗಳು, ಆಂತರಿಕ ದಾಖಲೆಗಳು ಮತ್ತು ಕ್ರೆಡೆನ್ಷಿಯಲ್ (credential) ಮಾಹಿತಿಯು ಬಳಕೆದಾರರ ಕನಿಷ್ಠ ಸಂವಹನದೊಂದಿಗೆ ಕಾರ್ಪೊರೇಟ್ ವ್ಯಾಪ್ತಿಯಿಂದ ಹೊರಗೆ ಹೋಗಬಹುದು.
ಅಡ್ಮಿನಿಸ್ಟ್ರೇಟರ್ಗಳು ಇಂದು ಏನನ್ನು ಪರಿಶೀಲಿಸಬಹುದು
- Toggle effectiveness – ವೆಬ್-ಸರ್ಚ್ ಆಯ್ಕೆಯನ್ನು ಅ禁用 (disable) ಮಾಡಿದ ನಂತರ, ಏಜೆಂಟ್ಗೆ ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಒಂದು fetch ಕಮಾಂಡ್ ನೀಡಿ ಮತ್ತು ಹೊರಗಿನ ವಿನಂತಿಗಳನ್ನು (outbound requests) ಗಮನಿಸಿ. ವಿನಂತಿಯು ಯಶಸ್ವಿಯಾದರೆ, ಟೋಗಲ್ ಕೇವಲ ಬಾಹ್ಯವಾಗಿ ಕಾಣುವ ಬದಲಾವಣೆಯಾಗಿದೆ (cosmetic).
- Outbound traffic controls – ಏಜೆಂಟ್ ಮಾಡುವ ಯಾವುದೇ ಬಾಹ್ಯ ಕರೆಯನ್ನು ವಿಶ್ವಾಸಾರ್ಹ ಡೊಮೇನ್ಗಳ 'ಅಲೌ-ಲಿಸ್ಟ್' (allow-list) ಗೆ ಸೀಮಿತಗೊಳಿಸಿ. ಮುಕ್ತ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವು ಡೇಟಾ ಕಳ್ಳತನಕ್ಕೆ ದಾರಿ ಮಾಡಿಕೊಡುತ್ತದೆ.
- Instruction-vs-data separation – ನಂಬಲಾರದ ಪುಟಗಳು ಅಥವಾ ಫೈಲ್ಗಳನ್ನು ನಂಬಿಕಸ್ತ ಕಮಾಂಡ್ ಮೂಲಗಳೆಂದು ಸಿಸ್ಟಮ್ ಪರಿಗಣಿಸದಂತೆ ನೋಡಿಕೊಳ್ಳಿ. ಈ ಪ್ರತ್ಯೇಕತೆಯಿಲ್ಲದೆ, ಪ್ರಾಂಪ್ಟ್-ಇಂಜೆಕ್ಷನ್ (prompt-injection) ದಾಳಿಗಳು ಸುಲಭವಾಗುತ್ತವೆ.
ಅಪಾಯವನ್ನು ತಗ್ಗಿಸಲು ವಾಸ್ತುಶಿಲ್ಪದ ಹಂತಗಳು (Architectural steps)
- Separate channels – ಬಳಕೆದಾರರ ಪ್ರಾಂಪ್ಟ್ಗಳು ಮತ್ತು ಡೇಟಾ ರಿಟ್ರಿೀವಲ್ ಅನ್ನು ವಿಭಿನ್ನ ಪೈಪ್ಲೈನ್ಗಳ ಮೂಲಕ ರವಾನಿಸಿ. ಇದು ಡೇಟಾದಲ್ಲಿ ಅಡಗಿರುವ ದುಷ್ಟ ಪೇಲೋಡ್ ಅನ್ನು ಕಮಾಂಡ್ ಎಂದು ವ್ಯಾಖ್ಯಾನಿಸುವುದನ್ನು ತಡೆಯುತ್ತದೆ.
- Restrict outbound calls – AI ಏಜೆಂಟ್ಗೆ ಸ್ಪಷ್ಟವಾಗಿ ಅನುಮೋದಿಸದ ಯಾವುದೇ ಗುರಿಯನ್ನು ತಡೆಯುವ ಫೈರ್ವಾಲ್ಗಳು ಅಥವಾ ಪ್ರೊಕ್ಸಿ ನಿಯಮಗಳನ್ನು ಅಳವಡಿಸಿ.
- Human approval for external calls – ಏಜೆಂಟ್ ಕಾರ್ಪೊರೇಟ್ ಪರಿಸರದಿಂದ ಹೊರಬರುವ ನೆಟ್ವರ್ಕ್ ವಿನಂತಿಯನ್ನು ಪ್ರಾರಂಭಿಸುವ ಮೊದಲು ಮ್ಯಾನುಯಲ್ ಕನ್ಫರ್ಮೇಶನ್ (manual confirmation) ಹಂತವನ್ನು ಕಡ್ಡಾಯಗೊಳಿಸಿ.
Atlassian ನಿಂದ ಪ್ರತಿಕ್ರಿಯೆ
ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು
ಮೂಲಭೂತ ಪ್ರತ್ಯೇಕತೆಯ ದೋಷವನ್ನು ಸರಿಪಡಿಸುವ ಯಾವುದೇ ಪ್ಯಾಚ್ಗಳು ಅಥವಾ ಕಾನ್ಫಿಗರೇಶನ್ ಬದಲಾವಣೆಗಳ ಬಗ್ಗೆ Atlassian ನಿಂದ ಬರುವ ಅಪ್ಡೇಟ್ಗಳನ್ನು ಸಂಸ್ಥೆಗಳು ಗಮನಿಸುತ್ತಿರಬೇಕು.
Takeaway: ಗುಪ್ತ ಕಮಾಂಡ್ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವ Rovo ನ ಸಾಮರ್ಥ್ಯವು, ಕೇವಲ ಒಂದು ದುಷ್ಟ ಪುಟ ಅಥವಾ ಲಿಂಕ್ ಮೂಲಕ ಗೌಪ್ಯ ಡೇಟಾವನ್ನು ಸೋರಿಕೆಯ ಮಾಡಬಹುದು ಎಂದರ್ಥ, ಮತ್ತು UI ಟೋಗಲ್ ಅದನ್ನು ತಡೆಯುವುದಿಲ್ಲ. ಅಡ್ಮಿನಿಸ್ಟ್ರೇಟರ್ಗಳು ಫೀಚರ್ ಅನ್ನು ನಿಜವಾಗಿಯೂ ಅ禁用 (disable) ಮಾಡಲಾಗಿದೆಯೇ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಬೇಕು, ಹೊರಗಿನ ಟ್ರಾಫಿಕ್ ಅನ್ನು ನಿಯಂತ್ರಿಸಬೇಕು ಮತ್ತು AI ಏಜೆಂಟ್ಗಳು ಅಜಾಗರೂಕತೆಯಿಂದ ಡೇಟಾ ಸೋರಿಕೆ ಮಾಡುವ ಸಾಧನಗಳಾಗದಂತೆ ತಡೆಯಲು ಇನ್ಸ್ಟ್ರಕ್ಷನ್ ಫ್ಲೋ ಅನ್ನು ಮರು ವಿನ್ಯಾಸಗೊಳಿಸಬೇಕು.