𝗧𝗵𝗲 𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗔𝗜 𝗚𝗼𝘃𝗲𝗿𝗻𝗮𝗻𝗰𝗲 𝗙𝗿𝗮𝗺𝗲𝘄𝗼𝗿𝗸
ಸ್ಥಿರವಾದ (Static) PDF ನೀತಿಗಳು ಕ್ರಿಯಾತ್ಮಕ (dynamic) AI ಏಜೆಂಟ್ಗಳನ್ನು ನಿಯಂತ್ರಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಪ್ರತಿ ಏಜೆಂಟ್ ಕ್ರಮಕ್ಕೂ ನೀವು ಮ್ಯಾನುಯಲ್ ಅನುಮೋದನೆಯನ್ನು ಬಯಸಿದರೆ, ನೀವು ವೇಗವನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತೀರಿ.
ವ್ಯವಸ್ಥೆಯನ್ನು ವಿಸ್ತರಿಸಲು (To scale), ನೀವು Human-in-the-Loop (HITL) ನಿಂದ Human-on-the-Loop (HOTL) ಗೆ ಬದಲಾಗಬೇಕು. HITL ನಲ್ಲಿ, ಮನುಷ್ಯರು ಅಡಚಣೆಗಳಾಗಿ (bottlenecks) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಾರೆ. HOTL ನಲ್ಲಿ, ಮನುಷ್ಯರು ಗಾರ್ಡ್ರೈಲ್ಗಳನ್ನು (guardrails) ನಿರ್ಮಿಸುವ ಮತ್ತು ವ್ಯವಸ್ಥೆಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ ವಾಸ್ತುಶಿಲ್ಪಿಗಳಾಗಿ (architects) ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಾರೆ.
The Autonomy Spectrum
ನೀವು ಪ್ರೊಕ್ಯೂರ್ಮೆಂಟ್ (procurement) ಏಜೆಂಟ್ ಮತ್ತು DevOps ಏಜೆಂಟ್ ಅನ್ನು ಒಂದೇ ರೀತಿ ಪರಿಗಣಿಸಬಾರದು. ನಿಮ್ಮ ಏಜೆಂಟ್ಗಳನ್ನು ಅವರ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳುವ ಅಧಿಕಾರದ ಆಧಾರದ ಮೇಲೆ ವರ್ಗೀಕರಿಸಿ:
• ಸಲಹಾತ್ಮಕ (ಕಡಿಮೆ ಸ್ವಾಯತ್ತತೆ): ಏಜೆಂಟ್ ಕ್ರಮಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ. ಮನುಷ್ಯ ಅವುಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುತ್ತಾರೆ. • ಅರೆ-ಸ್ವಾಯತ್ತ (ಮಧ್ಯಮ ಸ್ವಾಯತ್ತತೆ): ಏಜೆಂಟ್ ಸುರಕ್ಷಿತ ವಲಯದೊಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಅದು ಮಿತಿಯನ್ನು ತಲುಪಿದಾಗ ಮಾತ್ರ ಸಹಾಯವನ್ನು ಕೇಳುತ್ತದೆ. • ಸಂಪೂರ್ಣ ಸ್ವಾಯತ್ತ (ಹೆಚ್ಚಿನ ಸ್ವಾಯತ್ತತೆ): ಏಜೆಂಟ್ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ನೊಳಗೆ ಆರಂಭದಿಂದ ಅಂತ್ಯದವರೆಗೆ ಗುರಿಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ.
ಉದಾಹರಣೆ: ಸಪೋರ್ಟ್ ಏಜೆಂಟ್ $50 ವರೆಗೆ ಮರುಪಾವತಿಗಳನ್ನು (refunds) ಮಾಡಬಹುದು. ಒಂದು ವೇಳೆ ವಿನಂತಿಯು $51 ಆಗಿದ್ದರೆ, ಏಜೆಂಟ್ ನಿಂತು ಮನುಷ್ಯನ ಬಳಿ ಕೇಳಬೇಕು. ಇದು ಅಧಿಕಾರದ ವಿಚಲನೆಯನ್ನು (authority drift) ತಡೆಯುತ್ತದೆ.
Stop Relying on Prompts for Security
ಸಿಸ್ಟಮ್ ಪ್ರಾಂಪ್ಟ್ಗಳು ಸಲಹೆಗಳಾಗಿವೆ, ನಿಯಮಗಳಲ್ಲ. ಅವು ಸಂಭವನೀಯವಾಗಿರುತ್ತವೆ (probabilistic). ಪ್ರೊಡಕ್ಷನ್ನಲ್ಲಿ, ಒಂದು ಸಲಹೆಯು ಒಂದು ದೌರ್ಬಲ್ಯವಾಗಬಹುದು (vulnerability). ನೀವು ತರ್ಕವನ್ನು (reasoning) ಜಾರಿಗೊಳಿಸುವಿಕೆಯಿಂದ (enforcement) ಪ್ರತ್ಯೇಕಿಸಬೇಕು.
ಪದರವಾದ ರಕ್ಷಣೆಯನ್ನು ಬಳಸಿ:
- Prompt Layer: ಉದ್ದೇಶ ಮತ್ತು ಮಾರ್ಗಸೂಚಿಗಳನ್ನು ಒದಗಿಸುತ್ತದೆ.
- Guardrail Layer: ಕಠಿಣ ನಿಯಮಗಳ ವಿರುದ್ಧ ಕ್ರಮಗಳನ್ನು ಪರಿಶೀಲಿಸುವ ಒಂದು ನಿರ್ಧಾರಾತ್ಮಕ (deterministic) ಮಿಡ್ಲ್ವೇರ್ ಆಗಿದೆ.
- API Layer: ಸಂಪನ್ಮೂಲ ಮಟ್ಟದಲ್ಲಿ (resource level) ಗುರುತು ಮತ್ತು ಪ್ರವೇಶ ನಿರ್ವಹಣೆಯನ್ನು (identity and access management) ಜಾರಿಗೊಳಿಸುತ್ತದೆ.
ಈ ಸೆಟಪ್ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ಅನ್ನು ತಡೆಯುತ್ತದೆ. ಗಾರ್ಡ್ರೈಲ್ ಮಿಡ್ಲ್ವೇರ್ ಮಟ್ಟದಲ್ಲಿದ್ದರೆ, ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ ಮಾಡುವ ತಂತ್ರವು ಕೆಲಸ ಮಾಡುವುದಿಲ್ಲ.
Observability and the Kill Switch
ಸಾಮಾನ್ಯ ಲಾಗ್ಗಳು (Standard logs) ಸಾಕಾಗುವುದಿಲ್ಲ. ನೀವು ಚೈನ್-ಆಫ್-ಥಾಟ್ (Chain-of-Thought - CoT) ಅನ್ನು ಲಾಗ್ ಮಾಡಬೇಕಾಗುತ್ತದೆ. ಒಂದು ಕ್ರಮವು ಏಕೆ ಸರಿಯೆಂದು ಏಜೆಂಟ್ ಭಾವಿಸಿತು ಎಂಬುದು ನಿಮಗೆ ತಿಳಿದಿರಬೇಕು.
ಮಲ್ಟಿ-ಏಜೆಂಟ್ ವರ್ಕ್ಫ್ಲೋಗಳಲ್ಲಿನ ಕ್ಯಾಸ್ಕೇಡಿಂಗ್ ವೈಫಲ್ಯಗಳನ್ನು (cascading failures) ತಡೆಯಲು, ಕಿಲ್ ಸ್ವಿಚ್ ಪ್ರೊಟೊಕಾಲ್ ಅನ್ನು ಜಾರಿಗೆ ತರಬೇಕು. ಅದು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಮಾಡಬೇಕು:
- ಎಲ್ಲಾ ಸಕ್ರಿಯ ಟೋಕನ್ಗಳನ್ನು ರದ್ದುಗೊಳಿಸಬೇಕು.
- ಎಲ್ಲಾ ಎಕ್ಸಿಕ್ಯೂಷನ್ ಥ್ರೆಡ್ಗಳನ್ನು ಕೊನೆಗೊಳಿಸಬೇಕು.
- ಆಡಿಟ್ಗಾಗಿ ಸ್ಥಿತಿಯನ್ನು (state) ಸ್ಥಗಿತಗೊಳಿಸಬೇಕು.
- ಕೊನೆಯ ಐದು ತರ್ಕದ ಹಂತಗಳೊಂದಿಗೆ (reasoning steps) ಎಂಜಿನಿಯರ್ಗೆ ತಿಳಿಸಬೇಕು.
Dynamic Permissioning
ಏಜೆಂಟ್ಗಳು ಯಾವುದೇ ಸ್ಥಿರ ಸವಲತ್ತುಗಳನ್ನು (standing privileges) ಹೊಂದಿರಬಾರದು. ಜಸ್ಟ್-ಇನ್-ಟೈಮ್ (Just-in-Time - JIT) ಪ್ರವೇಶವನ್ನು ಬಳಸಿ. ಏಜೆಂಟ್ ಒಂದು ನಿರ್ದಿಷ್ಟ API ಅನ್ನು ಕರೆಯಬೇಕಾದಾಗ ಮಾತ್ರ ಅಲ್ಪಾವಧಿಯ ಟೋಕನ್ ಅನ್ನು ವಿನಂತಿಸುತ್ತದೆ. ಇದು ಏಜೆಂಟ್ನ ಗುರುತು ಮನುಷ್ಯರು ಅನುಮೋದಿಸಿದ ಉದ್ದೇಶಕ್ಕೆ ಬದ್ಧವಾಗಿರುವುದನ್ನು ಖಚಿತಪಡಿಸುತ್ತದೆ.
Key Takeaways for Platform Engineers:
- ನಿಯಂತ್ರಣವನ್ನು ಪ್ರಾಂಪ್ಟ್ಗಳಿಂದ ಮಿಡ್ಲ್ವೇರ್ಗೆ ವರ್ಗಾಯಿಸಿ.
- ಭದ್ರತಾ ಲೋಪಗಳನ್ನು ತಡೆಯಲು JIT ಪ್ರವೇಶವನ್ನು ಅನುಷ್ಠಾನಗೊಳಿಸಿ.
- ಕೇವಲ ಇನ್ಪುಟ್ಗಳು ಮತ್ತು ಔಟ್ಪುಟ್ಗಳನ್ನು ಮಾತ್ರವಲ್ಲದೆ, ತಾರ್ಕಿಕ ಹಂತಗಳನ್ನು ಸಹ ದಾಖಲಿಸಿ.
- ಮರುಕಳಿಸುವ ಲೂಪ್ ವೈಫಲ್ಯಗಳನ್ನು ತಡೆಯಲು ಕಟ್ಟುನಿಟ್ಟಾದ ಟೋಕನ್ ಮಿತಿಗಳನ್ನು ಬಳಸಿ.
ಮೂಲ: https://dev.to/omnithium/the-agentic-ai-governance-framework-balancing-autonomy-and-control-2occ
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi