ನಿಮ್ಮ AI ಏಜೆಂಟ್ ಆರ್ಕಿಟೆಕ್ಚರ್ ಏಕೆ ಭದ್ರತಾ ಹೊಣೆಗಾರಿಕೆಯಾಗಿದೆ

2027ರ ವೇಳೆಗೆ, 40% ಎಂಟರ್‌ಪ್ರೈಸ್ AI ನಿಯೋಜನೆಗಳು ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ (prompt injection) ಅಥವಾ ಏಜೆಂಟ್ ಹೈಜಾಕ್ (agent hijack) ಘಟನೆಗಳನ್ನು ಎದುರಿಸಲಿವೆ. ಇದು 2025ರ ಆರಂಭದಲ್ಲಿ ಇದ್ದ 5% ಕ್ಕಿಂತ ಕಡಿಮೆ ಮಟ್ಟದಿಂದ ದೊಡ್ಡ ಮಟ್ಟದ ಏರಿಕೆಯಾಗಿದೆ.

ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಲೇಯರ್ (orchestration layer) ಏಜೆಂಟ್‌ಗಳನ್ನು ಉಪಯುಕ್ತವಾಗಿಸುತ್ತದೆ. ಇದು ಅವುಗಳನ್ನು ಗುರಿಗಳನ್ನಾಗಿಯೂ ಮಾಡುತ್ತದೆ.

ಸಿಂಗಾಪುರದ ಒಂದು ಲಾಜಿಸ್ಟಿಕ್ಸ್ ಸಂಸ್ಥೆಯು ಇತ್ತೀಚೆಗೆ $2.3 ಮಿಲಿಯನ್ ನಷ್ಟ ಅನುಭವಿಸಿದೆ. ಕಳಂಕಿತ ಕ್ಯಾಲೆಂಡರ್ ಇನ್ವೈಟ್ (compromised calendar invite) ಒಂದು ಶೆಡ್ಯೂಲಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು ವಂಚಿಸಿತು. ಆ ಏಜೆಂಟ್ CRM ದಾಖಲೆಗಳನ್ನು ದಾಳಿಕಾರರಿಗೆ ಕಳುಹಿಸಿಕೊಟ್ಟಿತು. ಮಾಡೆಲ್‌ನಲ್ಲಿ ಯಾವುದೇ ಕೆಟ್ಟ ಕೋಡ್ ಇರಲಿಲ್ಲ. ಅದು ಸೂಚನೆಗಳನ್ನು ಪರಿಪೂರ್ಣವಾಗಿ ಪಾಲಿಸಿತು. ಸಮಸ್ಯೆ ಆರ್ಕಿಟೆಕ್ಚರ್‌ನಲ್ಲಿತ್ತು.

ಏಜೆಂಟ್‌ಗಳು ಕೇವಲ ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲ. ಅವು ಪರಿಕರಗಳನ್ನು (tools) ಬಳಸುವ, ಫೈಲ್‌ಗಳನ್ನು ಓದುವ ಮತ್ತು ವಹಿವಾಟುಗಳನ್ನು (transactions) ನಿರ್ವಹಿಸುವ ವ್ಯವಸ್ಥೆಗಳಾಗಿವೆ. ಸಾಂಪ್ರದಾಯಿಕ ಭದ್ರತೆಯು ಒಂದು ವಿನಂತಿ (request) ಬರುತ್ತದೆ ಮತ್ತು ಒಂದು ಪ್ರತಿಕ್ರಿಯೆ (response) ಹೊರಹೋಗುತ್ತದೆ ಎಂದು ಭಾವಿಸುತ್ತದೆ. ಏಜೆಂಟ್‌ಗಳು ಈ ಮಾದರಿಯನ್ನು ಮುರಿಯುತ್ತವೆ.

ಇಮೇಲ್‌ಗಳನ್ನು ಡ್ರಾಫ್ಟ್ ಮಾಡುವ ಮತ್ತು ರಿಫಂಡ್ ಸಲ್ಲಿಸುವ ಏಜೆಂಟ್ ಒಂದು ರನ್‌ಟೈಮ್‌ನಲ್ಲಿ ಮೂರು ಆಪ್‌ಗಳಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಕಾಲ್ (tool call) ಒಂದು ಅಪಾಯ. ಪ್ರತಿಯೊಂದು ಮೆಮೊರಿ ಬೈಟ್ (memory write) ಒಂದು ಅಪಾಯ. ಪ್ರತಿಯೊಂದು ಇಮೇಲ್ ಅಥವಾ ದಾಖಲೆಯು ಎಕ್ಸಿಕ್ಯೂಟಬಲ್ ಕೋಡ್ (executable code) ಆಗಿದೆ.

ಸುರಕ್ಷಿತ ತಂಡಗಳು ಮೂರು-ಪದರಗಳ ಮಾದರಿಯನ್ನು ಬಳಸುತ್ತವೆ:

  • Identity: ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಕಾಲ್‌ಗೆ ಬಳಕೆದಾರರಿಂದ ಪ್ರತ್ಯೇಕವಾದ ಗುರುತಿನ ಅಗತ್ಯವಿದೆ.
  • Provenance: ಪ್ರತಿಯೊಂದು ಮೆಮೊರಿ ಬೈಟ್‌ಗೆ ಅದರ ಮೂಲವನ್ನು ತೋರಿಸಲು ಮೆಟಾಡೇಟಾ ಅಗತ್ಯವಿದೆ.
  • Verification: ಪ್ರತಿಯೊಂದು ಯೋಜನೆಯ ಹಂತಕ್ಕೂ ಡೌನ್‌ಸ್ಟ್ರೀಮ್ ಎಕ್ಸಿಕ್ಯೂಷನ್‌ಗಾಗಿ ಸಹಿ ಮಾಡಿದ ಆಬ್ಜೆಕ್ಟ್ ಅಗತ್ಯವಿದೆ.

ಏಜೆಂಟ್‌ಗಳು ಎಂದಿಗೂ ಪ್ರೊಡಕ್ಷನ್ APIಗಳನ್ನು ನೇರವಾಗಿ ಕರೆಯಬಾರದು. ಬದಲಾಗಿ ಮಧ್ಯಸ್ಥಿಕೆ ವಹಿಸುವ ಟೂಲ್ ಲೇಯರ್ ಅನ್ನು (mediated tool layer) ಬಳಸಿ. ಈ ಲೇಯರ್ ಆರ್ಗ್ಯುಮೆಂಟ್‌ಗಳನ್ನು (arguments) ಪರಿಶೀಲಿಸುತ್ತದೆ, ಅನುಮತಿಗಳನ್ನು ವ್ಯಾಪ್ತಿಗೆ ತರುತ್ತದೆ (scopes permissions) ಮತ್ತು ಆಡಿಟ್ ಲಾಗ್ಸ್‌ಗಳನ್ನು (audit logs) ರಚಿಸುತ್ತದೆ. ಈ ಲೇಯರ್ ಅನ್ನು ನಿಮ್ಮ ಹೊಸ ಫೈರ್‌ವಾಲ್ ಎಂದು ಭಾವಿಸಿ.

ಮೆಮೊರಿ ಮತ್ತೊಂದು ದೊಡ್ಡ ಅಪಾಯವಾಗಿದೆ. ದಾಳಿಕಾರರು ಏಜೆಂಟ್‌ನ ಮೆಮೊರಿಯನ್ನು ಬದಲಾಯಿಸಲು ವಿಷಪೂರಿತ (poisoned) ದಾಖಲೆಗಳು ಅಥವಾ ಇಮೇಲ್‌ಗಳನ್ನು ಬಳಸುತ್ತಾರೆ. ಇದು ಕಾಲಾನಂತರದಲ್ಲಿ ಏಜೆಂಟ್ ಹೇಗೆ ವರ್ತಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ. ಮೆಮೊರಿ ಪಾಯಿಸನಿಂಗ್ (Memory poisoning) ದಾಳಿಗಳು ಪ್ರತಿ ವರ್ಷ 300% ರಷ್ಟು ಹೆಚ್ಚಾಗುತ್ತಿವೆ.

ಹೆಚ್ಚಿನ ತಂಡಗಳು ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಪೈಪ್‌ಲೈನ್‌ಗಳಿಗೆ AI ಥ್ರೆಟ್ ಮಾಡೆಲಿಂಗ್ ಅನ್ನು ಸೇರಿಸುತ್ತವೆ. ಆದರೆ ಅವು ಏಜೆಂಟ್ ರನ್‌ಟೈಮ್‌ನಲ್ಲೇ ಭದ್ರತೆಯನ್ನು ಸೇರಿಸುವುದಿಲ್ಲ. ಕೇವಲ 19% ಸಂಸ್ಥೆಗಳು ಟೂಲ್-ಕಾಲ್ ಅಸಂಬದ್ಧತೆಗಳಿಗಾಗಿ (tool-call anomalies) ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಹೊಂದಿವೆ.

ಏಜೆಂಟ್‌ಗಳನ್ನು ಸಾಫ್ಟ್‌ವೇರ್‌ನಂತೆ ಕಾಣುವುದನ್ನು ನಿಲ್ಲಿಸಿ. ಅವುಗಳನ್ನು ಸಿಸ್ಟಮ್ ಪ್ರವೇಶ ಹೊಂದಿರುವ ಕಿರಿಯ ಉದ್ಯೋಗಿಗಳಂತೆ ಪರಿಗಣಿಸಿ. ನೀವು ಹೊಸ ಉದ್ಯೋಗಿಗೆ ಮೊದಲ ದಿನವೇ ರೂಟ್ ಆಕ್ಸೆಸ್ (root access) ನೀಡುವುದಿಲ್ಲ. ನಿಮ್ಮ ಏಜೆಂಟ್‌ಗಳೊಂದಿಗೆ ಹೀಗೆ ಮಾಡಬೇಡಿ.

ವಿಜೇತರು ಅತ್ಯಂತ ಆಕರ್ಷಕ ಡೆಮೋಗಳನ್ನು ಹೊಂದಿರುವುದಿಲ್ಲ. ಬದಲಾಗಿ ಬ್ಯಾಂಕಿಂಗ್ ಅಥವಾ ಆರೋಗ್ಯ ರಕ್ಷಣಾ ಕ್ಷೇತ್ರದಲ್ಲಿನ ಭದ್ರತಾ ಪರಿಶೀಲನೆಗಳನ್ನು ಪಾಸಾಗುವ ಏಜೆಂಟ್‌ಗಳನ್ನು ಹೊಂದಿರುತ್ತಾರೆ. ಈ ಮೂರು ಲೇಯರ್‌ಗಳನ್ನು ಈಗಲೇ ನಿರ್ಮಿಸಿ. ಉಲ್ಲಂಘನೆಯಾದ ನಂತರ ಅವುಗಳನ್ನು ಸರಿಪಡಿಸಲು (retrofit) ಪ್ರಯತ್ನಿಸಬೇಡಿ.

ನೀವು ಇತ್ತೀಚೆಗೆ ತೆಗೆದುಕೊಂಡ ಯಾವ ಒಂದು ಆರ್ಕಿಟೆಕ್ಚರಲ್ ನಿರ್ಧಾರವನ್ನು, ಮೊದಲ ದಿನದಿಂದಲೇ ಏಜೆಂಟ್ ಸುರಕ್ಷತೆಯ ಮೇಲೆ ಗಮನ ಹರಿಸಿದ್ದರೆ ಬದಲಾಯಿಸುತ್ತಿದ್ದಿರಿ?

ಮೂಲ: https://dev.to/yanoai/why-your-ai-agent-architecture-will-be-your-biggest-security-liability-by-2027-2a66

ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi