AI ಡೆவலಪರ್ ತಂಡಗಳಲ್ಲಿ ಸಾಮರ್ಥ್ಯಗಳು (Capabilities), ಅನುಮತಿಗಳು (Permissions), ಮತ್ತು ಅನುಮೋದನಾ ಗೇಟ್‌ಗಳು (Approval Gates)

ಅನೇಕ AI ಪರಿಕರಗಳು ಒಂದು ಶಾರ್ಟ್‌ಕಟ್ ಅನ್ನು ನೀಡುತ್ತವೆ.

ನೀವು ಒಂದು ಪರಿ工具 ಅಥವಾ ಇಂಟಿಗ್ರೇಶನ್ ಅನ್ನು ಕನೆಕ್ಟ್ ಮಾಡುತ್ತೀರಿ. ಈಗ ಏಜೆಂಟ್ ಫೈಲ್‌ಗಳು, ಕಾರ್ಯಗಳು ಅಥವಾ ಕಮಾಂಡ್‌ಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡಬಹುದು ಎಂದು ಇಂಟರ್ಫೇಸ್ ಹೇಳುತ್ತದೆ.

ಗಂಭೀರವಾದ ತಂಡಗಳಿಗೆ ಇದು ಸಾಕಾಗುವುದಿಲ್ಲ.

ತಾಂತ್ರಿಕ ಸಾಮರ್ಥ್ಯವು ಅನುಮತಿಯಂತಲ್ಲ. ಒಂದು ಕ್ರಿಯೆಯು ಸಾಧ್ಯವಾಗಬಹುದು, ಆದರೆ ಅದಕ್ಕೆ ಮಾನವ ನಿರ್ಧಾರದ ಅಗತ್ಯವಿರಬಹುದು.

NexFlow ಈ ಮೂರು ಪದರಗಳನ್ನು ಪ್ರತ್ಯೇಕಿಸುತ್ತದೆ:

• ಸಾಮರ್ಥ್ಯ (Capability): ಒಬ್ಬ actor ತಾಂತ್ರಿಕವಾಗಿ ಏನು ಮಾಡಬಲ್ಲನು? • ಅನುಮತಿ (Permission): ನಿರ್ದಿಷ್ಟ ವಿಷಯವು ಆ ಸಾಮರ್ಥ್ಯವನ್ನು ಬಳಸಲು ಅನುಮತಿಸಲಾಗಿದೆಯೇ? • ಅನುಮೋದನಾ ಗೇಟ್ (Approval Gate): ಆ ಕ್ರಿಯೆಗೆ ಮೊದಲು ಮನುಷ್ಯನ ಒಪ್ಪಿಗೆ ಬೇಕೇ?

ಈ ಪದಗಳನ್ನು ಗೊಂದಲಕ್ಕೀಡು ಮಾಡಿಕೊಳ್ಳುವುದು ಭದ್ರತಾ ಅಪಾಯಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತದೆ.

ಒಂದು ಕೌಶಲವು (skill) ಡಾಕ್ಯುಮೆಂಟೇಶನ್ ಬರೆಯುವಂತಹ ಒಂದು ಪಾತ್ರವನ್ನು ವಿವರಿಸುತ್ತದೆ. ಒಂದು ಸಾಮರ್ಥ್ಯವು (capability) create_pull_request ನಂತಹ ಒಂದು ಕ್ರಿಯೆಯನ್ನು ವಿವರಿಸುತ್ತದೆ. ಒಂದು ಅನುಮತಿಯು (permission) allow ಅಥವಾ deny ನಂತಹ ಒಂದು ನೀತಿಯಾಗಿದೆ. ಒಂದು ಅನುಮೋದನಾ ಗೇಟ್ (approval gate) ಎಂಬುದು ನಿರ್ಬಂಧಿತ ಕ್ರಿಯೆಯನ್ನು ಅನುಮೋದಿಸಬೇಕಾದ ವ್ಯಕ್ತಿ ಅಥವಾ ವ್ಯವಸ್ಥೆಯಾಗಿದೆ.

ಒಬ್ಬ ಏಜೆಂಟ್‌ಗೆ ಕೋಡ್ ಅನ್ನು ಪರಿಶೀಲಿಸುವ ಕೌಶಲವಿರಬಹುದು. ಒಂದು ಇಂಟಿಗ್ರೇಶನ್ pull request ರಚಿಸುವ ಸಾಮರ್ಥ್ಯವನ್ನು ನೀಡಬಹುದು. ಆದರೆ ಆ ನಿರ್ದಿಷ್ಟ ಏಜೆಂಟ್ ಆ ಪರಿಕರವನ್ನು ಬಳಸಬಹುದೇ ಎಂಬುದನ್ನು ಅನುಮತಿಯು ನಿರ್ಧರಿಸಬೇಕು. ನಂತರ, ಮನುಷ್ಯನು ಅದನ್ನು ಪರಿಶೀಲಿಸಬೇಕೇ ಎಂಬುದನ್ನು ಅನುಮೋದನಾ ಗೇಟ್ ನಿರ್ಧರಿಸುತ್ತದೆ.

ಈ ವ್ಯತ್ಯಾಸವು ನಿಮ್ಮ ಪ್ರಾಜೆಕ್ಟ್ ಅನ್ನು ರಕ್ಷಿಸುತ್ತದೆ. ಏಜೆಂಟ್ ನೀವು ಉದ್ದೇಶಿಸಿದതിಗಿಂತ ಹೆಚ್ಚಿನ ಅಧಿಕಾರವನ್ನು ಪಡೆಯುವ "ಕನೆಕ್ಟೆಡ್ ಟೂಲ್" ಸಮಸ್ಯೆಯನ್ನು ಇದು ತಡೆಯುತ್ತದೆ.

NexFlow ಕಟ್ಟುನಿಟ್ಟಾದ ಭದ್ರತಾ ಮಾದರಿಯನ್ನು ಬಳಸುತ್ತದೆ:

  • actor ಬಳಕೆಯಲ್ಲಿರುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿದ್ದಾರೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಿ.
  • ಅನುಮತಿ ನಿಯಮಗಳನ್ನು ಹುಡುಕಿ.
  • ಸ್ಪಷ್ಟವಾದ deny ಅತ್ಯಂತ ಬಲವಾದ ನಿಯಮವಾಗಿದೆ.
  • approval_required ಸ್ಥಿತಿಯು ಮನುಷ್ಯನು ಅನುಮೋದಿಸುವವರೆಗೆ ಕ್ರಿಯೆಯನ್ನು ತಡೆಯುತ್ತದೆ.
  • allow ಎಂಬುದು ವ್ಯಾಖ್ಯಾನಿಸಲಾದ ವ್ಯಾಪ್ತಿಯೊಳಗೆ ಮಾತ್ರ ಕೆಲಸ ಮಾಡುತ್ತದೆ.
  • ಯಾವುದೇ ಅನುಮತಿ ಇಲ್ಲದಿದ್ದರೆ, ಕ್ರಿಯೆಯನ್ನು ತಿರಸ್ಕರಿಸಿ.

ಇದು ಅಧಿಕಾರಶಾಹಿಯಲ್ಲ. ಇದು ಅಪಾಯವನ್ನು ದೃಶ್ಯೀಕರಿಸುತ್ತದೆ. ನೀವು ಕೇವಲ ಒಂದು ಏಜೆಂಟ್ ಅನ್ನು ರನ್ ಮಾಡುವ ಮೊದಲೇ ನಿಮ್ಮ ನೀತಿಗಳನ್ನು ಪರಿಶೀಲಿಸಬಹುದು.

ನೀವು ನೋಡಬಹುದು:

  • ಯಾವ ಅಪಾಯಕಾರಿ ಸಾಮರ್ಥ್ಯಗಳು ಅಸ್ತಿತ್ವದಲ್ಲಿವೆ.
  • ನಿಮ್ಮ ರೆಪೊಸಿಟರಿಯನ್ನು ಯಾರು ಓದಬಹುದು.
  • ಫೈಲ್‌ಗಳನ್ನು ಯಾರು ಬರೆಯಬಹುದು.
  • ಮನುಷ್ಯನು ಎಲ್ಲಿ ಕ್ರಿಯೆಯನ್ನು ತಡೆಯಬೇಕು.

ಏಜೆಂಟ್ ಏನು ಮಾಡಬಲ್ಲದು ಎಂಬುದು ಸಾಕಾಗುವುದಿಲ್ಲ. ನಿಮ್ಮ ಪ್ರಾಜೆಕ್ಟ್ ಅವರಿಗೆ ಏನು ಮಾಡಲು ಅನುಮತಿಸುತ್ತದೆ ಎಂಬುದು ಮುಖ್ಯವಾಗುತ್ತದೆ.

Source: https://dev.to/alexander_iwizard/capabilities-permissions-and-approval-gates-in-ai-developer-teams-2cc4

Optional learning community: https://t.me/GyaanSetuAi