The FullAgenticStack Manifest

ಪ್ರತಿಯೊಬ್ಬರೂ ಏಜೆಂಟ್‌ಗಳನ್ನು (agents) ನಿರ್ಮಿಸಲು ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದಾರೆ.

ಜನರು ಪ್ರಾಂಪ್ಟ್‌ಗಳು (prompts), ಪರಿಕರಗಳು (tools) ಮತ್ತು LLMಗಳ ಬಗ್ಗೆ ಮಾತನಾಡುತ್ತಾರೆ. ಅವರು ಏಜೆಂಟ್‌ಗಳು APIಗಳನ್ನು ಕರೆಯುವುದರ ಮೇಲೆ ಗಮನ ಹರಿಸುತ್ತಾರೆ. ಇದು ಕೇವಲ ಆರಂಭವಷ್ಟೇ.

ಕೆಲವು ವರ್ಷಗಳಲ್ಲಿ, ಪ್ರಶ್ನೆಯೇ ಬದಲಾಗುತ್ತದೆ. ನೀವು ಏಜೆಂಟ್ ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುವುದು ಎಂದು ಕೇಳುವುದಿಲ್ಲ. ಬದಲಾಗಿ, ಏಜೆಂಟ್‌ಗಳಿಂದ ಮಾಡಲ್ಪಟ್ಟ ವಿಶ್ವಾಸಾರ್ಹ ವ್ಯವಸ್ಥೆಗಳನ್ನು (reliable systems) ಹೇಗೆ ನಿರ್ಮಿಸುವುದು ಎಂದು ಕೇಳುತ್ತೀರಿ.

ಏಜೆಂಟ್ ಎಂಬುದು ಒಂದು ವ್ಯವಸ್ಥೆಯಲ್ಲ. ಏಜೆಂಟ್ ಎಂಬುದು ದೊಡ್ಡ ವಾಸ್ತುಶಿಲ್ಪದ (architecture) ಒಂದು ಭಾಗವಾಗಿದೆ.

ಸಾಫ್ಟ್‌ವೇರ್‌ನ ಮುಂದಿನ ಹಂತಕ್ಕೆ ಮೂಲಸೌಕರ್ಯದ (infrastructure) ಅಗತ್ಯವಿದೆ. ಏಜೆಂಟ್‌ಗಳು, ಮನುಷ್ಯರು ಮತ್ತು ಸೇವೆಗಳು ನಂಬಿಕೆ, ನೆನಪು (memory) ಮತ್ತು ಪುರಾವೆಯೊಂದಿಗೆ (proof) ಸಂವಹನ ನಡೆಸಬೇಕು. ನಾನು ಇದನ್ನು FullAgenticStack ಎಂದು ಕರೆಯುತ್ತೇನೆ.

ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದು ಸುಲಭವಾಗುತ್ತಿದೆ. ಇದು ಒಂದು ಬಲೆಯಲ್ಲಿ ಬೀಳುವಂತೆ ಮಾಡುತ್ತದೆ. ಏಜೆಂಟಿಕ್ ಸಾಫ್ಟ್‌ವೇರ್ ಎಂದರೆ ಕೇವಲ ಒಂದು LLM ಜೊತೆಗೆ ಪರಿಕರಗಳು ಮತ್ತು ನೆನಪು (memory) ಎಂದು ಜನರು ಭಾವಿಸುತ್ತಾರೆ.

ಅದು ಸಾಕಾಗುವುದಿಲ್ಲ.

ಟೂಲ್ ಕಾಲಿಂಗ್ (tool calling) ಹೊಂದಿರುವ ಚಾಟ್‌ಬಾಟ್ ಒಂದು ವ್ಯವಸ್ಥೆಯಲ್ಲ. ಪ್ರಾಂಪ್ಟ್‌ಗಳ ಸರಪಳಿಯು ಒಂದು ವಾಸ್ತುಶಿಲ್ಪವಲ್ಲ.

ಏಜೆಂಟ್ ಒಂದು ಕೆಲಸವನ್ನು ಒಮ್ಮೆ ಮಾಡಿಸುವುದು ನಿಜವಾದ ಸಮಸ್ಯೆಯಲ್ಲ. ಏಜೆಂಟ್‌ಗಳ ವ್ಯವಸ್ಥೆಗಳು ನೈಜ ಜಗತ್ತಿನಲ್ಲಿ ಸುರಕ್ಷಿತವಾಗಿ ಮತ್ತು ಪುನರಾವರ್ತಿತವಾಗಿ ಕೆಲಸ ಮಾಡುವಂತೆ ಮಾಡುವುದು ನಿಜವಾದ ಸಮಸ್ಯೆಯಾಗಿದೆ.

ನೀವು ಈ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಲೇಬೇಕು:

  • ನೀವು ಏಜೆಂಟ್‌ಗಳನ್ನು ಹೇಗೆ ಸಂಘಟಿಸುತ್ತೀರಿ (orchestrate)?
  • ನೀವು ಅವುಗಳನ್ನು ಹೇಗೆ ದೃಢೀಕರಿಸುತ್ತೀರಿ (authenticate)?
  • ನೀವು ಅವುಗಳ ಕ್ರಮಗಳನ್ನು ಹೇಗೆ ಲೆಕ್ಕ ಪರಿಶೋಧನೆ (audit) ಮಾಡುತ್ತೀರಿ?
  • ನೀವು ಅವುಗಳ ಅನುಮತಿಗಳನ್ನು (permissions) ಹೇಗೆ ಸೀಮಿತಗೊಳಿಸುತ್ತೀರಿ?
  • ವೈಫಲ್ಯದ ನಂತರ ಸ್ಥಿತಿಯನ್ನು (state) ನೀವು ಹೇಗೆ ಮರುಪಡೆಯುತ್ತೀರಿ?
  • ಏಜೆಂಟ್‌ಗಳು ಸಮನ್ವಯಗೊಳಿಸಿದಾಗ ಗೊಂದಲವನ್ನು ನೀವು ಹೇಗೆ ತಡೆಯುತ್ತೀರಿ?

ಇವು ಸಣ್ಣ ಸಮಸ್ಯೆಗಳಲ್ಲ. ಇವು ಅಡಿಪಾಯಗಳಾಗಿವೆ.

FullAgenticStack ಏಜೆಂಟಿಕ್ ಸಾಫ್ಟ್‌ವೇರ್ ಉತ್ಪಾದನಾ ವಾತಾವರಣದಲ್ಲಿ (production) ಕೆಲಸ ಮಾಡಲು ಅಗತ್ಯವಾದ ಪರಿಸರವನ್ನು ಒದಗಿಸುತ್ತದೆ. ಇದು ಒಳಗೊಂಡಿದೆ:

  • ಮಾನವ ಮತ್ತು ಏಜೆಂಟ್ ಗುರುತು (identity)
  • ದೃಢೀಕರಣ ಮತ್ತು ಅಧಿಕಾರೀಕರಣ (authentication and authorization)
  • ಅನುಮತಿಗಳು ಮತ್ತು ಸಾಮರ್ಥ್ಯಗಳು (permissions and capabilities)
  • ಸ್ಥಿತಿ ಮತ್ತು ನೆನಪು (state and memory)
  • ಘಟನೆಗಳ ಇತಿಹಾಸ ಮತ್ತು ವೀಕ್ಷಣೆ ಸಾಮರ್ಥ್ಯ (event history and observability)
  • ಮರುಪಡೆಯುವಿಕೆ ಮತ್ತು ರೋಲ್‌ಬ್ಯಾಕ್ (recovery and rollback)
  • ಕಾರ್ಯಗತಗೊಳಿಸುವಿಕೆಯ ಪುರಾವೆ (proof of execution)
  • ಶೂನ್ಯ-ನಂಬಿಕೆ ಸಂವಹನ (zero-trust interaction)

ಟೂಲ್ ಕಾಲಿಂಗ್ ಕೇವಲ ಒಂದು ಇಂಟರ್ಫೇಸ್ ಆಗಿದೆ. ಇದು ಗುರುತಿನ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುವುದಿಲ್ಲ. ಇದು ಜವಾಬ್ದಾರಿಯನ್ನು ಪರಿಹರಿಸುವುದಿಲ್ಲ.

ಒಂದು ಏಜೆಂಟ್ ಉತ್ಪನ್ನವನ್ನು ಖರೀದಿಸಿದರೆ, ಅದನ್ನು ಯಾರು ಅಧಿಕೃತಗೊಳಿಸಿದರು? ಒಂದು ಏಜೆಂಟ್ ವಿಫಲವಾದರೆ, ನೀವು ಅದನ್ನು ಹೇಗೆ ಮರುಪಡೆಯುತ್ತೀರಿ? ಒಂದು ಏಜೆಂಟ್ ಹಾನಿಯನ್ನು ಉಂಟುಮಾಡಿದರೆ, ಏನಾಯಿತು ಎಂದು ನೀವು ಹೇಗೆ ಸಾಬೀತುಪಡಿಸುತ್ತೀರಿ?

ಇವು ಎಂಜಿನಿಯರಿಂಗ್ ಅಗತ್ಯತೆಗಳು.

ಮುಂದಿನ ವೆಬ್ (web) ಜನರು ಮತ್ತು ಕಂಪನಿಗಳ ಪರವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಏಜೆಂಟ್‌ಗಳಿಂದ ಕೂಡಿದೆಯಾಗಿರುತ್ತದೆ. ಏಜೆಂಟ್‌ಗಳು ಮಾತುಕತೆ ನಡೆಸುತ್ತವೆ, ವೇಳಾಪಟ್ಟಿ ರೂಪಿಸುತ್ತವೆ, ಖರೀದಿಸುತ್ತವೆ ಮತ್ತು ಮಾರಾಟ ಮಾಡುತ್ತವೆ.

ಇದು ಕೆಲಸ ಮಾಡಲು, ಏಜೆಂಟ್‌ಗಳು ಅದೃಶ್ಯ ಸ್ಕ್ರಿಪ್ಟ್‌ಗಳಾಗಿರಬಾರದು. ಅವುಗಳನ್ನು ಗುರುತಿಸಬಹುದಾದ, ವೀಕ್ಷಿಸಬಹುದಾದ ಮತ್ತು ಸಾಬೀತುಪಡಿಸಬಹುದಾದಂತಿರಬೇಕು.

ನಿಮಗೆ ಪ್ರಾಂಪ್ಟ್ ಸ್ಟ್ಯಾಕ್ ಅಗತ್ಯವಿಲ್ಲ. ನಿಮಗೆ FullAgenticStack ಅಗತ್ಯವಿದೆ.

ಮೇಲ್ಮೈಯನ್ನು ನೋಡುವುದನ್ನು ನಿಲ್ಲಿಸಿ. ಗುರಿ ಏಜೆಂಟ್ ಒಂದು ಪರಿಕರವನ್ನು ಕರೆಯಬಲ್ಲದೇ ಎಂಬುದಲ್ಲ. ಗುರಿ ಏಜೆಂಟ್ ಒಂದು ವಿಶ್ವಾಸಾರ್ಹ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಅಸ್ತಿತ್ವದಲ್ಲಿರಬಲ್ಲದೇ ಎಂಬುದಾಗಿದೆ.

ಏಜೆಂಟ್‌ಗಳು ಅಂತ್ಯವಲ್ಲ. ಅವು ಹೊಸ ವಾಸ್ತುಶಿಲ್ಪದ ಆರಂಭ.

Source: https://dev.to/fullagenticstack/the-fullagenticstack-manifesto-agents-are-not-just-llms-48pa

Optional learning community: https://t.me/GyaanSetuAi