ನಿಮ್ಮ ಏಜೆಂಟ್‌ನ ಡೆಮೊ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಆದರೆ ನಿಮ್ಮ ಏಜೆಂಟ್ ಕೆಲಸ ಮಾಡುವುದಿಲ್ಲ.

ಹೆಚ್ಚಿನ ಏಜೆಂಟ್ ಆರ್ಕಿಟೆಕ್ಚರ್‌ಗಳು (architectures) ನೈಜ ಕೆಲಸಗಳಲ್ಲಿ ವಿಫಲವಾಗುತ್ತವೆ.

ಒಂದು ಡೆಮೊವು ಒಂದೇ ಕೆಲಸ ಮತ್ತು ವೇಗದ ಪ್ರತಿಕ್ರಿಯೆಯೊಂದಿಗೆ ಚೆನ್ನಾಗಿ ಕಾಣಿಸಬಹುದು. ಆದರೆ ನೈಜ ಕೆಲಸವು ವಿಮೆ ಕ್ಲೈಮ್‌ಗಳು (insurance claims), ಸೇಲ್ಸ್ ಸೀಕ್ವೆನ್ಸ್ (sales sequences) ಅಥವಾ ಡೇಟಾ ಸಮನ್ವಯದಂತಹ (data reconciliation) ವಿಷಯಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ. ಈ ಕೆಲಸಗಳಿಗೆ ಸಮಯ ಮತ್ತು ಅನೇಕ ಹಂತಗಳು ಬೇಕಾಗುತ್ತವೆ.

ಸಮಸ್ಯೆಯೆಂದರೆ ಸ್ಟೇಟ್‌ಲೆಸ್ನೆಸ್ (statelessness). ಹೆಚ್ಚಿನ ಏಜೆಂಟ್‌ಗಳು ಪ್ರತಿ ಬಾರಿ ಸಂವಹನ ನಡೆಸುವಾಗಲೂ ಸಂದರ್ಭವನ್ನು (context) ಮೊದಲಿನಿಂದಲೇ ಮರುನಿರ್ಮಿಸುತ್ತವೆ. ಇದರಿಂದ ಅವುಗಳ ತಾರ್ಕಿಕ ಸರಣಿ (reasoning chain) ಮತ್ತು ಮಾಡಿದ ಪ್ರಗತಿಯು ಕಳೆದುಹೋಗುತ್ತದೆ. ಅಂತಿಮವಾಗಿ, ಪರಿಸ್ಥಿತಿಯನ್ನು ತಿಳಿದಿರುವಂತೆ ನಟಿಸುವ ಒಂದು ವಿನಯಶೀಲ AI ಮಾತ್ರ ನಿಮ್ಮ ಕೈಗೆ ಸಿಗುತ್ತದೆ.

Google Cloud ತಜ್ಞರಾದ Addy Osmani ಮತ್ತು Shubham Saboo ಇದನ್ನು ಸರಿಪಡಿಸಲು ಐದು ಮಾದರಿಗಳನ್ನು (patterns) ಹಂಚಿಕೊಂಡಿದ್ದಾರೆ. ಅವುಗಳ ವಿವರ ಇಲ್ಲಿದೆ:

  • Checkpoint-and-Resume ನಿಮ್ಮ ಏಜೆಂಟ್ ಅನ್ನು ಸರ್ವರ್‌ನಂತೆ ಪರಿಗಣಿಸಿ. ಪ್ರತಿ ಕೆಲವು ಕೆಲಸದ ಘಟಕಗಳ ನಂತರ ಪ್ರಗತಿಯನ್ನು (progress) ಉಳಿಸಿ. ಒಂದು ವೇಳೆ 1,000 ಕೆಲಸಗಳಲ್ಲಿ 201ನೇ ಕೆಲಸದಲ್ಲಿ ಏಜೆಂಟ್ ವಿಫಲವಾದರೆ, ಅದು ಮತ್ತೆ 201 ರಿಂದಲೇ ಪ್ರಾರಂಭಿಸಬೇಕು. ಮೊದಲಿನಿಂದಲೇ ಪ್ರಾರಂಭಿಸಬೇಡಿ.

  • Delegated Approval ಮಾನವ ಅನುಮೋದನೆಗಾಗಿ (human approval) Slack ಅಥವಾ ಇಮೇಲ್ ಬಳಸುವುದು ನಿಲ್ಲಿಸಿ. ಈ ಪರಿಕರಗಳು ಸಂದರ್ಭದ (context) ನಿರಂತರತೆಯನ್ನು ತಪ್ಪಿಸುತ್ತವೆ. ಏಜೆಂಟ್ ಕೆಲಸವನ್ನು ಅಲ್ಲೇ ನಿಲ್ಲಿಸಿ (pause). ಮನುಷ್ಯ ಪ್ರತಿಕ್ರಿಯಿಸಿದ ತಕ್ಷಣ ಅದು ತಕ್ಷಣವೇ ಕೆಲಸ ಮುಂದುವರಿಸುವಂತೆ ಸಂಪೂರ್ಣ ಸ್ಥಿತಿಯನ್ನು (state) ಹಾಗೆಯೇ ಇರಿಸಿ. ವಿನಂತಿಗಳು ಮತ್ತು ದೋಷಗಳಿಗಾಗಿ ಒಂದು ವ್ಯವಸ್ಥಿತ ಇನ್‌ಬಾಕ್ಸ್ ಅನ್ನು ಬಳಸಿ.

  • Memory-Layered Context ದೀರ್ಘಾವಧಿಯ ನೆನಪು (long-term memory) ಮತ್ತು ಕಾರ್ಯನಿರ್ವಹಣೆಯ ನೆನಪನ್ನು (working memory) ಪ್ರತ್ಯೇಕಿಸಿ. ದೀರ್ಘಾವಧಿಯ ನೆನಪುವು ವಿವಿಧ ಸೆಷನ್‌ಗಳಾದ್ಯಂತ ಜ್ಞಾನವನ್ನು ಸಂಗ್ರಹಿಸುತ್ತದೆ. ಕಾರ್ಯನಿರ್ವಹಣೆಯ ನೆನಪುವು ಪ್ರಸ್ತುತ ಕೆಲಸವನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ. ಏಜೆಂಟ್‌ಗಳು ಅನಿರೀಕ್ಷಿತ ಸಂದರ್ಭಗಳಿಂದ (edge cases) ಕೆಟ್ಟ ಅಭ್ಯಾಸಗಳನ್ನು ಕಲಿಯುವ 'ಮೆಮೊರಿ ಡ್ರಿಫ್ಟ್' (memory drift) ಅನ್ನು ನೀವು ತಡೆಯಬೇಕು. ಕೆಟ್ಟ ಡೇಟಾವನ್ನು ತಡೆಯಲು identity management ಮತ್ತು a governance layer ಅನ್ನು ಬಳಸಿ.

  • Ambient Processing ಸಪೋರ್ಟ್ ಟಿಕೆಟ್‌ಗಳು ಅಥವಾ ಡೇಟಾಬೇಸ್ ಬದಲಾವಣೆಗಳಂತಹ ಡೇಟಾ ಸ್ಟ್ರೀಮ್‌ಗಳನ್ನು ಗಮನಿಸುವ ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಿ. ಏಜೆಂಟ್‌ನೊಳಗೆ ನಿಯಮಗಳನ್ನು ಹಾರ್ಡ್‌ಕೋಡ್ (hardcode) ಮಾಡಬೇಡಿ. ನಿಯಮಗಳನ್ನು ಬಾಹ್ಯ governance layer ನಲ್ಲಿ ಇರಿಸಿ. ಈ ಮೂಲಕ, ನೀವು ಒಂದೇ ಕಡೆ ನಿಯಮಗಳನ್ನು ಅಪ್‌ಡೇಟ್ ಮಾಡಿದರೆ ಸಾಕು, ಇಡೀ ಏಜೆಂಟ್‌ಗಳ ಸಮೂಹವು ಅವುಗಳನ್ನು ಅನುಸರಿಸುತ್ತದೆ.

  • Fleet Orchestration ವಿಶೇಷ ಪರಿಣತಿ ಹೊಂದಿರುವ ಏಜೆಂಟ್‌ಗಳನ್ನು (specialist agents) ನಿರ್ವಹಿಸಲು ಒಬ್ಬ ಕೋಆರ್ಡಿನೇಟರ್ ಏಜೆಂಟ್ ಅನ್ನು ಬಳಸಿ. ಪ್ರತಿಯೊಬ್ಬ ಪರಿಣಿತ ಏಜೆಂಟ್‌ಗೂ ತನ್ನದೇ ಆದ ಪರಿಕರಗಳು ಮತ್ತು ಗುರುತು ಇರುತ್ತದೆ. ಇದು distributed systems ನಲ್ಲಿ ಬಳಸುವ worker pattern ಅನ್ನು ಅನುಸರಿಸುತ್ತದೆ. ಇಡೀ ವ್ಯವಸ್ಥೆಯನ್ನು ಹಾಳು ಮಾಡದೆಯೇ ನೀವು ಒಬ್ಬ ಪರಿಣಿತ ಏಜೆಂಟ್ ಅನ್ನು ಅಪ್‌ಡೇಟ್ ಮಾಡಬಹುದು.

ಅತಿದೊಡ್ಡ ಅಪಾಯವೆಂದರೆ ಮೆಮೊರಿ ಡ್ರಿಫ್ಟ್ (memory drift).

ಜನರು ಪ್ರಾಂಪ್ಟ್‌ಗಳ ಮೇಲೆ ಗಮನ ಹರಿಸುತ್ತಾರೆ ಆದರೆ ಕಾಲಾನಂತರದಲ್ಲಿ ಏಜೆಂಟ್‌ನ ನಡವಳಿಕೆ ಹೇಗೆ ಬದಲಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ನಿರ್ಲಕ್ಷಿಸುತ್ತಾರೆ. ಒಂದು ವೇಳೆ ಏಜೆಂಟ್ ಕೆಟ್ಟ ಅಥವಾ ವಿಚಿತ್ರ ಸಂವಹನಗಳಿಂದ ಕಲಿಯುತ್ತಿದ್ದರೆ, ಅದು ನೀವು ಬರೆದ ಕೋಡ್‌ನಂತೆ ವರ್ತಿಸುವುದನ್ನು ನಿಲ್ಲಿಸುತ್ತದೆ.

ನೀವು ಏಜೆಂಟ್‌ಗಳನ್ನು microservices ನಂತೆ ಪರಿಗಣಿಸಬೇಕು. ಅವುಗಳಿಗೆ identity, a registry, ಮತ್ತು ಕಟ್ಟುನಿಟ್ಟಾದ policy enforcement ಅಗತ್ಯವಿದೆ.

ನಿಮ್ಮನ್ನು ನೀವೇ ಕೇಳಿಕೊಳ್ಳಿ: ನನ್ನ ಏಜೆಂಟ್ ನಿಲ್ಲಿಸದೆ ಮಾಡಬೇಕಾದ ಅತ್ಯಂತ ದೀರ್ಘವಾದ ಕೆಲಸ ಯಾವುದು? ಉತ್ತರವು ಗಂಟೆಗಳು ಅಥವಾ ದಿನಗಳಾಗಿದ್ದರೆ, ನಿಮಗೆ ಈ ಮಾದರಿಗಳ ಅಗತ್ಯವಿದೆ.

Source: https://dev.to/archit_aggarwal_5310522d5/your-agent-demo-works-your-agent-doesnt-88l

Optional learning community: https://t.me/GyaanSetuAi