ನಿಮ್ಮ AI ಏಜೆಂಟ್ ಆರ್ಕಿಟೆಕ್ಚರ್ ಏಕೆ ಭದ್ರತಾ ಹೊಣೆಗಾರಿಕೆಯಾಗಿದೆ

2027ರ ವೇಳೆಗೆ, ಎಂಟರ್‌ಪ್ರೈಸ್ AI ನಿಯೋಜನೆಗಳಲ್ಲಿ ಶೇಕಡಾ 40 ರಷ್ಟು ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಅಥವಾ ಏಜೆಂಟ್ ಹೈಜಾಕ್ ಘಟನೆಗಳನ್ನು ಎದುರಿಸಲಿವೆ. ಇದು 2025ರ ಆರಂಭದಲ್ಲಿ ಶೇಕಡಾ 5ಕ್ಕಿಂತ ಕಡಿಮೆ ಇದ್ದ ಮಟ್ಟದಿಂದ ದೊಡ್ಡ ಏರಿಕೆಯಾಗಿದೆ.

ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಲೇಯರ್ ಏಜೆಂಟ್‌ಗಳನ್ನು ಉಪಯುಕ್ತವಾಗಿಸುತ್ತದೆ. ಇದು ಅವುಗಳನ್ನು ಗುರಿಯಾಗಿಯೂ ಮಾಡುತ್ತದೆ.

ಸಿಂಗಾಪುರದ ಒಂದು ಲಾಜಿಸ್ಟಿಕ್ಸ್ ಸಂಸ್ಥೆಯು ಇತ್ತೀಚೆಗೆ $2.3 ಮಿಲಿಯನ್ ನಷ್ಟ ಅನುಭವಿಸಿದೆ. ಒಬ್ಬ ದಾಳಿಗಾರನು ದುರುದ್ದೇಶಪೂರಿತ ಕ್ಯಾಲೆಂಡರ್ ಆಮಂತ್ರಣವನ್ನು ಕಳುಹಿಸಿದನು. ಇದು ಶೆಡ್ಯೂಲಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು CRM ಡೇಟಾವನ್ನು ಹೊರಗಿನ ಇನ್‌ಬಾಕ್ಸ್‌ಗೆ ಕಳುಹಿಸಲು ಪ್ರೇರೇಪಿಸಿತು. ಮಾಡೆಲ್‌ನಲ್ಲಿ ಯಾವುದೇ ಕೆಟ್ಟ ಕೋಡ್ ಇರಲಿಲ್ಲ. ಅದು ಸೂಚನೆಗಳನ್ನು ಪರಿಪೂರ್ಣವಾಗಿ ಪಾಲಿಸಿತು. ಸಮಸ್ಯೆಯೆಂದರೆ ಆರ್ಕಿಟೆಕ್ಚರ್ ಆಗಿತ್ತು.

ಏಜೆಂಟ್‌ಗಳು ಕೇವಲ ಚಾಟ್‌ಬಾಟ್‌ಗಳಲ್ಲ. ಅವು ಫೈಲ್‌ಗಳನ್ನು ಓದುವ, APIಗಳನ್ನು ಕರೆಯುವ ಮತ್ತು ವಹಿವಾಟುಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಸಾಧನಗಳಾಗಿವೆ. ಸಾಂಪ್ರದಾಯಿಕ ಭದ್ರತಾ ಮಾದರಿಗಳು ಒಂದು ವಿನಂತಿ ಬರುತ್ತದೆ ಮತ್ತು ಒಂದು ಪ್ರತಿಕ್ರಿಯೆ ಹೊರಹೋಗುತ್ತದೆ ಎಂದು ಭಾವಿಸುತ್ತವೆ. ಏಜೆಂಟ್‌ಗಳು ಈ ಮಾದರಿಯನ್ನು ಮುರಿಯುತ್ತವೆ.

PDF ಅನ್ನು ಸಾರಾಂಶಗೊಳಿಸಿ ಮತ್ತು ರಿಫಂಡ್ ಸಲ್ಲಿಸಬಲ್ಲ ಏಜೆಂಟ್ ಎಂಬುದು ಒಂದೇ ರನ್‌ಟೈಮ್‌ನಲ್ಲಿರುವ ಮೂರು ಆಪ್‌ಗಳಿದ್ದಂತೆ. ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಕಾಲ್ ಒಂದು ಅಪಾಯ. ಪ್ರತಿಯೊಂದು ಮೆಮೊರಿ ಬೈಟ್ ಒಂದು ಅಪಾಯ. ಪ್ರತಿಯೊಂದು ಇಮೇಲ್ ಅಥವಾ ದಾಖಲೆಯು ಈಗ ಎಕ್ಸಿಕ್ಯೂಟಬಲ್ ಕೋಡ್ ಆಗಿದೆ.

ಸುರಕ್ಷಿತವಾಗಿ ನಿರ್ಮಿಸಲು, ನಿಮಗೆ ಮೂರು ಲೇಯರ್‌ಗಳು ಬೇಕು:

• Identity: ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಕಾಲ್ ಬಳಕೆದಾರರಿಂದ ಪ್ರತ್ಯೇಕವಾದ ಗುರುತನ್ನು ಹೊಂದಿರಬೇಕು. • Provenance: ಪ್ರತಿಯೊಂದು ಮೆಮೊರಿ ಬೈಟ್ ಅದು ಎಲ್ಲಿಂದ ಬಂದಿದೆ ಎಂದು ತೋರಿಸಲು ಮೆಟಾಡೇಟಾವನ್ನು ಹೊಂದಿರಬೇಕು. • Intent: ಪ್ರತಿಯೊಂದು ಯೋಜನೆಯ ಹಂತವು ಡೌನ್‌ಸ್ಟ್ರೀಮ್ ಸಿಸ್ಟಮ್‌ಗಳು ಪರಿಶೀಲಿಸಬಹುದಾದ ಸಹಿ ಮಾಡಿದ ಆಬ್ಜೆಕ್ಟ್ ಅನ್ನು ಹೊಂದಿರಬೇಕು.

ಏಜೆಂಟ್‌ಗಳು ನೇರವಾಗಿ ಪ್ರೊಡಕ್ಷನ್ APIಗಳನ್ನು ಕರೆಯಲು ಬಿಡಬೇಡಿ. ಮಧ್ಯಸ್ಥಿಕೆ ವಹಿಸುವ ಟೂಲ್ ಲೇಯರ್ ಬಳಸಿ. ಈ ಲೇಯರ್ ನಿಮ್ಮ ಹೊಸ ಫೈರ್‌ವಾಲ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಇದು ಆರ್ಗ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ಸೆಷನ್‌ಗಾಗಿ ಅನುಮತಿಗಳನ್ನು ಸೀಮಿತಗೊಳಿಸುತ್ತದೆ.

ನಿಮ್ಮ ಏಜೆಂಟ್ ಮೆಮೊರಿಯನ್ನು ಗಮನಿಸಿ. ದಾಳಿಗಾರರು ಏಜೆಂಟ್ ನಡವಳಿಕೆಯನ್ನು ಕಾಲಾನಂತರದಲ್ಲಿ ಬದಲಾಯಿಸಲು ವಿಷಪೂರಿತ ದಾಖಲೆಗಳು ಅಥವಾ ಇಮೇಲ್‌ಗಳನ್ನು ಬಳಸುತ್ತಾರೆ. ಮೆಮೊರಿ-ಪಾಯಿಸನಿಂಗ್ ದಾಳಿಗಳು ಪ್ರತಿ ವರ್ಷ 300% ರಷ್ಟು ಹೆಚ್ಚಾಗುತ್ತಿವೆ.

ಅನೇಕ ತಂಡಗಳು ತಮ್ಮ ಪ್ರಸ್ತುತ ಪೈಪ್‌ಲೈನ್‌ಗಳಿಗೆ AI ಥ್ರೆಟ್ ಮಾಡೆಲಿಂಗ್ ಅನ್ನು ಸೇರಿಸುತ್ತವೆ. ಇದು ಸಾಕಾಗುವುದಿಲ್ಲ. ನೀವು ಏಜೆಂಟ್ ರನ್‌ಟೈಮ್‌ನಲ್ಲೇ ಭದ್ರತೆಯನ್ನು ಸೇರಿಸಬೇಕು. ಕೇವಲ 19% ಸಂಸ್ಥೆಗಳು ಟೂಲ್-ಕಾಲ್ ಅಸಂಬದ್ಧತೆಗಳಿಗಾಗಿ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಹೊಂದಿವೆ. ಹೆಚ್ಚಿನವು ಏಜೆಂಟ್ ನಡವಳಿಕೆಯನ್ನು ಕಳೆದುಕೊಳ್ಳುವ ಹಳೆಯ ಲಾಗ್‌ಗಳನ್ನು ಅವಲಂಬಿಸಿವೆ.

ನಿಮ್ಮ ಏಜೆಂಟ್ ಅನ್ನು ಸಿಸ್ಟಮ್ ಪ್ರವೇಶ ಹೊಂದಿರುವ ಕಿರಿಯ ಉದ್ಯೋಗಿಯಂತೆ ಪರಿಗಣಿಸಿ. ನೀವು ಹೊಸದಾಗಿ ಸೇರಿದ ಉದ್ಯೋಗಿಗೆ ಮೊದಲ ದಿನವೇ ಪೂರ್ಣ ರೂಟ್ ಪ್ರವೇಶವನ್ನು ನೀಡುವುದಿಲ್ಲ. ನಿಮ್ಮ ಏಜೆಂಟ್‌ಗಳೊಂದಿಗೆ ಹಾಗೆ ಮಾಡಬೇಡಿ.

ವಿಜೇತರು ಅತ್ಯುತ್ತಮ ಡೆಮೋಗಳನ್ನು ಹೊಂದಿರುವವರಲ್ಲ. ಅವರು ಬ್ಯಾಂಕಿಂಗ್ ಅಥವಾ ಆರೋಗ್ಯ ರಕ್ಷಣೆಯಂತಹ ನಿಯಂತ್ರಿತ ಉದ್ಯಮಗಳಲ್ಲಿ ಆರು ತಿಂಗಳ ಭದ್ರತಾ ವಿಳಂಬವಿಲ್ಲದೆ ನಿಯೋಜನೆಗೊಳಿಸಬಲ್ಲವರಾಗುತ್ತಾರೆ.

ಈಗಲೇ ನಿಮ್ಮ ಭದ್ರತಾ ಲೇಯರ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಿ. ಉಲ್ಲಂಘನೆಯಾದ ನಂತರ ಅವುಗಳನ್ನು ಸರಿಪಡಿಸಲು ಪ್ರಯತ್ನಿಸಬೇಡಿ.

ಮೂಲ: https://dev.to/yanoai/why-your-ai-agent-architecture-will-be-your-biggest-security-liability-by-2027-30la

ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi