ಭದ್ರತಾ ಸಂಶೋಧಕರಾದ Jake Williams ಈ ವಾರ CUSTODY framework ಅನ್ನು ಅನಾವರಣಗೊಳಿಸಿದ್ದಾರೆ, ಇದು ಕಾರ್ಪೊರೇಟ್ ನೆಟ್‌ವರ್ಕ್‌ಗಳ ಒಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುವ AI ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ಸ್ಪಷ್ಟವಾದ runtime permissions ಮತ್ತು ಮಿತಿಗಳನ್ನು (boundaries) ನಿಗದಿಪಡಿಸಲು ಉದ್ಯಮಗಳಿಗೆ ಒಂದು ಮಾರ್ಗವನ್ನು ಒದಗಿಸುತ್ತದೆ. ಸಾಂಪ್ರದಾಯಿಕ ಸಾಫ್ಟ್‌ವೇರ್‌ಗಳಿಗ Unlike, AI ಏಜೆಂಟ್‌ಗಳು ಡೈನಾಮಿಕ್ ಆಗಿ ಡೇಟಾವನ್ನು ಪಡೆಯಬಹುದು, ಸೇವೆಗಳನ್ನು ಬಳಸಬಹುದು ಮತ್ತು ಮಾಡೆಲ್‌ಗಳನ್ನು ಮಾರ್ಪಡಿಸಬಹುದು—ಇವೆಲ್ಲವೂ ಯಾವುದೇ ಸ್ಪಷ್ಟವಾದ, ಜಾರಿಗೊಳಿಸಬಹುದಾದ ನೀತಿಯಿಲ್ಲದೆ ನಡೆಯುತ್ತವೆ—ಇದು ದಾಳಿಕೋರರು ಬಳಸಿಕೊಳ್ಳಲು ಪ್ರಾರಂಭಿಸಿರುವ ಒಂದು ಅಂತರವನ್ನು (gap) ಸೃಷ್ಟಿಸುತ್ತದೆ.

AI ಏಜೆಂಟ್‌ಗಳಿಗೆ ಏಕೆ ಬೇಲಿ (fence) ಅಗತ್ಯ?

ಎಂಟರ್‌ಪ್ರೈಸ್ AI ಸ್ಟ್ಯಾಕ್‌ಗಳು ಈಗ ಚಾಟ್‌ಬಾಟ್‌ಗಳು, ಶಿಫಾರಸು ಇಂಜಿನ್‌ಗಳು (recommendation engines), ಸ್ವಾಯತ್ತ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವವರು (autonomous decision-makers) ಮತ್ತು ಆಂತರಿಕ APIಗಳು ಅಥವಾ ಮೂರನೇ ವ್ಯಕ್ತಿಯ ಸೇವೆಗಳಿಂದ ಡೇಟಾವನ್ನು ಪಡೆಯುವ ಡಜನ್‌ಗಟ್ಟಲೆ ಬ್ಯಾಕ್‌ಗ್ರೌಂಡ್ ಏಜೆಂಟ್‌ಗಳನ್ನು ಒಳಗೊಂಡಿವೆ. ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಭದ್ರತಾ ಸೂಟ್‌ಗಳು ಪೆರಿಮೀಟರ್ ಫೈರ್‌ವಾಲ್‌ಗಳು, ಎಂಡ್‌ಪಾಯಿಂಟ್ ಪ್ರೊಟೆಕ್ಷನ್ ಮತ್ತು ನೆಟ್‌ವರ್ಕ್ ಸೆಗ್ಮೆಂಟೇಶನ್ ಮೇಲೆ ಗಮನ ಕೇಂದ್ರೀಕರಿಸುತ್ತವೆ, ಆದರೆ "ಈ ಏಜೆಂಟ್ ಗ್ರಾಹಕರ ದಾಖಲೆಗಳನ್ನು ಓದಬಹುದು ಆದರೆ ಹಣಕಾಸಿನ ಡೇಟಾಬೇಸ್‌ಗೆ ಬರೆಯಬಾರದು" ಎಂದು ಹೇಳಲು ಅವುಗಳ ಬಳಿ ಯಾವುದೇ ಪ್ರಮಾಣಿತ ವಿಧಾನವಿಲ್ಲ. ಇಂತಹ runtime ನಿಯಂತ್ರಣಗಳ ಕೊರತೆಯಿಂದಾಗಿ, ಏಜೆಂಟ್‌ಗಳ ಮೇಲೆ ನಿಯಂತ್ರಣ ಕಳೆದುಕೊಂಡಾಗ ಡೇಟಾವನ್ನು ಸೋರಿಕೆ ಮಾಡುವುದು ಅಥವಾ ಮಾಡೆಲ್ ತೂಕಗಳನ್ನು (model weights) ಹಾಳುಮಾಡುವಂತಹ ಘಟನೆಗಳು ಈಗಾಗಲೇ ಸಂಭವಿಸಿವೆ.

CUSTODY ಹೇಗೆ ಈ ಅಂತರವನ್ನು ತುಂಬುತ್ತದೆ

CUSTODY ಒಂದು ನಿಯಮ ಆಧಾರಿತ ಭಾಷೆಯನ್ನು (rule-based language) ಪರಿಚಯಿಸುತ್ತದೆ, ಇದು ಒಂದು AI ಏಜೆಂಟ್ ನೆಟ್‌ವರ್ಕ್‌ಗೆ ಸಂಪರ್ಕ ಸಾಧಿಸಿದ ನಂತರ ಅದು ಏನು ಮಾಡಲು ಅನುಮತಿಸಲಾಗಿದೆ ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ. ನೀತಿಗಳು (Policies) ಇವುಗಳನ್ನು ನಿರ್ದಿಷ್ಟಪಡಿಸಬಹುದು:

  • Resource access – ಏತ ಯಾವ ಡೇಟಾಬೇಸ್‌ಗಳು, ಫೈಲ್ ಸ್ಟೋರ್‌ಗಳು ಅಥವಾ APIಗಳನ್ನು ಏಜೆಂಟ್ ಪ್ರಶ್ನಿಸಬಹುದು (query).
  • Action limits – ಏಜೆಂಟ್ ಕೇವಲ ಓದಬಲ್ಲದೇ ಅಥವಾ ಬರೆಯಲು, ಅಳಿಸಲು ಅಥವಾ ಡೌನ್‌ಸ್ಟ್ರೀಮ್ ಕೆಲಸಗಳನ್ನು ಪ್ರಾರಂಭಿಸಲು (trigger) ಸಾಧ್ಯವೇ ಎಂಬುದು.
  • Execution context – ಕಂಪ್ಯೂಟ್ ಎನ್ವಿರಾನ್‌ಮೆಂಟ್ ಮೇಲಿನ ನಿರ್ಬಂಧಗಳು, ಉದಾಹರಣೆಗೆ CPU ಕೋಟಾಗಳು ಅಥವಾ ಕಂಟೇನರ್ ಐಸೊಲೇಶನ್ (container isolation).

Runtime ಸಮಯದಲ್ಲಿ, ಈ framework ಏಜೆಂಟ್‌ನ ಕರೆಗಳನ್ನು (calls) ತಡೆಹಿಡಿದು (intercepts) ಅವುಗಳನ್ನು ನಿಗದಿಪಡಿಸಿದ ನೀತಿಯೊಂದಿಗೆ ಪರಿಶೀಲಿಸುತ್ತದೆ ಮತ್ತು ನಿಗದಿಪಡಿಸಿದ ಮಿತಿಗಳ ಹೊರಗೆ ಇರುವ ಯಾವುದೇ ಕಾರ್ಯಾಚರಣೆಯನ್ನು ತಡೆಯುತ್ತದೆ. ಇದು ಹೈಜಾಕ್ ಮಾಡಲಾದ ಏಜೆಂಟ್ ಕಾರ್ಪೊರೇಟ್ ಪರಿಸರದಲ್ಲಿ ಯಾವುದೇ ತಪಾಸಣೆಯಿಲ್ಲದೆ ಅಲೆಯುವುದನ್ನು ತಡೆಯುತ್ತದೆ.

ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಸ್ಟ್ಯಾಕ್‌ಗಳಿಗೆ CUSTODY ಅನ್ನು ಜೋಡಿಸುವುದು

ಈ framework ಪ್ರಸ್ತುತ ಭದ್ರತಾ ಸಾಧನಗಳ ಜೊತೆಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಇದು ಜನಪ್ರಿಯ ऑर्ಕೆಸ್ಟ್ರೇಶನ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳು, ಕಂಟೇನರ್ ರನ್‌ಟೈಮ್‌ಗಳು ಮತ್ತು API ಗೇಟ್‌ವೇಗಳಿಗೆ සම්බන්ධವಾಗಬಹುದು (hook), ಆದರೆ ನಿಖರವಾದ ಹಂತಗಳು ಅಡಿಪಾಯದ ಏಜೆಂಟ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗೆ ಅನುಗುಣವಾಗಿ ಬದಲಾಗುತ್ತವೆ. ಸಂಸ್ಥೆಗಳು ತಮ್ಮ AI ಇನ್ವೆಂಟರಿಯನ್ನು ಪಟ್ಟಿ ಮಾಡಬೇಕು, ಪ್ರತಿ ವರ್ಗದ ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ಪಾಲಿಸಿ ಫೈಲ್‌ಗಳನ್ನು ಬರೆಯಬೇಕು ಮತ್ತು ಪೂರ್ಣ ಪ್ರಮಾಣದ ನಿಯೋಜನೆಗಿಂತ ಮೊದಲು ಜಾರಿಗೊಳಿಸುವ ಹಂತವನ್ನು (enforcement layer) ಪರೀಕ್ಷಿಸಬೇಕು. ಮಾಡೆಲ್‌ಗಳು ವಿಕಸನಗೊಳ್ಳುತ್ತಿದ್ದಂತೆ ನಿಯಮಗಳನ್ನು ನವೀಕರಿಸಲು ಡಜನ್‌ಗಟ್ಟಲೆ ಏಜೆಂಟ್‌ಗಳಾದ್ಯಂತ ಈ ನೀತಿಗಳನ್ನು ವಿಸ್ತರಿಸಲು (scaling) ಮೀಸಲಾದ ಕಾರ್ಯಾಚರಣಾ ಪ್ರಯತ್ನದ ಅಗತ್ಯವಿರುತ್ತದೆ.

ಎಚ್ಚರಿಕೆಗಳು ಮತ್ತು ವಿರೋಧಗಳು

ವಿಮರ್ಶಕರು CUSTODY ಸ್ವಯಂಚಾಲಿತವಾಗಿ ನೀತಿಗಳನ್ನು ಸೃಷ್ಟಿಸುವುದಿಲ್ಲ ಎಂದು ಗಮನಿಸುತ್ತಾರೆ; ಭದ್ರತಾ ತಂಡಗಳು ಅವುಗಳನ್ನು ಕೈಯಾರೆ (manually) ಸಿದ್ಧಪಡಿಸಬೇಕಾಗುತ್ತದೆ, ಇದು ಶ್ರಮದಾಯಕವಾಗಬಹುದು. ಪ್ರತಿಯೊಂದು ಕರೆಯನ್ನು (call) ನೈಜ ಸಮಯದಲ್ಲಿ ಪರಿಶೀಲಿಸಿದರೆ, ವಿಶೇಷವಾಗಿ ಹೆಚ್ಚಿನ ಥ್ರೂಪುಟ್ ಹೊಂದಿರುವ ಇನ್ಫರೆನ್ಸ್ ಸೇವೆಗಳಿಗೆ (high-throughput inference services), ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲಿನ ಹೊರೆಯಾಗುವ (performance overhead) ಅಪಾಯವೂ ಇದೆ. ಅಂತಿಮವಾಗಿ, ಈ framework ನ ಪರಿಣಾಮಕಾರಿತ್ವವು ವ್ಯಾಪಕವಾದ ಅಳವಡಿಕೆಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ—ಒಂದು ವೇಳೆ ವೆಂಡರ್‌ನ AI ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಅಗತ್ಯವಾದ ಹೂಕ್‌ಗಳನ್ನು (hooks) ಒದಗಿಸಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ, CUSTODY ನಿಯಂತ್ರಣಗಳನ್ನು ಬೈಪಾಸ್ ಮಾಡಬಹುದು.

ಮುಂದೆ ಏನನ್ನು ಗಮನಿಸಬೇಕು

  • Vendor response – ಪ್ರಮುಖ AI ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಪೂರೈಕೆದಾರರು CUSTODY-совмести ಹೂಕ್‌ಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುತ್ತಾರೆಯೇ ಅಥವಾ ತಮ್ಮದೇ ಆದ runtime-policy ಇಂಜಿನ್‌ಗಳನ್ನು ನೀಡುತ್ತಾರೆಯೇ ಎಂಬುದು.
  • Standardisation – AI ಏಜೆಂಟ್ ಅನುಮತಿಗಳಿಗಾಗಿ ಉದ್ಯಮದಾದ್ಯಂತದ ವಿಶೇಷಣಗಳ (specifications) ಕಡೆಗೆ ಆಗುವ ಯಾವುದೇ ಚಲನೆಯು CUSTODY ಅನ್ನು ಒಂದು ಪ್ರಮಾಣಿತ ಮಾನದಂಡವಾಗಿ (de-facto baseline) ಪರಿವರ್ತಿಸಬಹುದು.
  • Community feedback – ಆರಂಭಿಕ ಬಳಕೆದಾರರು ನೈಜ ಪ್ರಪಂಚದ ಪಾಲಿಸಿ ಸಂಕೀರ್ಣತೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲಿನ ಪರಿಣಾಮವನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತಾರೆ, ಇದು ಭವಿಷ್ಯದ ಆವೃತ್ತಿಗಳನ್ನು ರೂಪಿಸುತ್ತದೆ.

AI ಏಜೆಂಟ್‌ಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವ ಉದ್ಯಮಗಳು ಈಗಲೇ CUSTODY ಅನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಬೇಕು, ತಮ್ಮ ಭದ್ರತಾ ಸ್ಟ್ಯಾಕ್‌ನಲ್ಲಿ ಅದು ಎಲ್ಲಿ ಹೊಂದಿಕೆಯಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ಪಟ್ಟಿ ಮಾಡಬೇಕು ಮತ್ತು ಮುಂದಿನ AI-ಚಾಲಿತ ದಾಳಿಗಳು ತಮ್ಮ ನೆಟ್‌ವರ್ಕ್‌ಗಳಿಗೆ ತಲುಪುವ ಮೊದಲೇ ಪಾಲಿಸಿಗಳ ಪೈಲಟಿಂಗ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಬೇಕು.