AWS Web Search on Bedrock AgentCore
AI ತಂತ್ರಜ್ಞಾನವು ಹೆಚ್ಚಾಗಿ ತಪ್ಪು ವಿಷಯವನ್ನು ಉತ್ತಮಗೊಳಿಸುತ್ತದೆ.
ಹೆಚ್ಚಿನ ತಂಡಗಳು ಮಾಡೆಲ್ ಅನ್ನು ಟ್ಯೂನ್ ಮಾಡುತ್ತವೆ, ಆದರೆ ನಿಜವಾದ ವೈಫಲ್ಯವು ಕನೆಕ್ಷನ್ಗಳಲ್ಲಿ ಸಂಭವಿಸುತ್ತದೆ. ಸಮಸ್ಯೆ ಬುದ್ಧಿವಂತಿಕೆಯಲ್ಲ. ಸಮಸ್ಯೆ ಮಾಡೆಲ್ ಮತ್ತು ಜಗತ್ತಿನ ನಡುವಿನ ಹಸ್ತಾಂತರಗಳಲ್ಲಿ (handoffs) ಇದೆ.
AWS ಈಗ Amazon Bedrock AgentCore ನಲ್ಲಿ Web Search ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ. ಇದು ನೀವು ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸುವ ವಿಧಾನವನ್ನೇ ಬದಲಾಯಿಸುತ್ತದೆ.
ಇಲ್ಲಿಯವರೆಗೆ, ಏಜೆಂಟ್ಗಳು ತಮ್ಮ ತರಬೇತಿಯ ಹಳೆಯ ಡೇಟಾಕ್ಕೆ ಸೀಮಿತವಾಗಿದ್ದವು. ಲೈವ್ ವೆಬ್ ಪ್ರವೇಶವನ್ನು ಪಡೆಯಲು, ನೀವು ಸ್ವಂತ ಸ್ಕ್ರೇಪರ್ಗಳನ್ನು (scrapers) ನಿರ್ಮಿಸಬೇಕಿತ್ತು, API ಕೀಗಳನ್ನು ನಿರ್ವಹಿಸಬೇಕಿತ್ತು ಮತ್ತು ರೇಟ್ ಲಿಮಿಟ್ಗಳನ್ನು (rate limits) ನಿಭಾಯಿಸಬೇಕಿತ್ತು. ಇದು ವಾರಗಟ್ಟಲೆ ಇಂಜಿನಿಯರಿಂಗ್ ಸಮಯವನ್ನು ವ್ಯರ್ಥ ಮಾಡುತ್ತದೆ.
ಹೊಸ AgentCore ಸಾಧನವು ಒಂದು ಮ್ಯಾನೇಜ್ಡ್ ಲೇಯರ್ (managed layer). ಇದು ನಿಮಗಾಗಿ ಐಡೆಂಟಿಟಿ, ಥ್ರೊಟಲಿಂಗ್ ಮತ್ತು ರಿಸಲ್ಟ್ ಗ್ರೌಂಡಿಂಗ್ ಅನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ. ಇದು ಮುಕ್ತ ಇಂಟರ್ನೆಟ್ನಲ್ಲಿನ ಮ್ಯಾನೇಜ್ಡ್ RAG ಆಗಿದೆ.
ಇಂಜಿನಿಯರ್ಗಳಿಗೆ ಇದು ಏಕೆ ಮುಖ್ಯ:
AI ಏಜೆಂಟ್ಗಳ ಕಷ್ಟದ ಭಾಗವೆಂದರೆ ಕೋಆರ್ಡಿನೇಷನ್ (coordination). ನೀವು ನಿರ್ಧರಿಸಬೇಕು:
- ಯಾರು ವೆಬ್ ಅನ್ನು ಕರೆಯಬಹುದು?
- ಟೈಮ್ಔಟ್ (timeout) ಸಮಯದಲ್ಲಿ ಏನಾಗುತ್ತದೆ?
- ಹಳೆಯ ಡೇಟಾವನ್ನು ಹೊಸ ಫಲಿತಾಂಶಗಳೊಂದಿಗೆ ನೀವು ಹೇಗೆ ಸಮನ್ವಯಗೊಳಿಸುತ್ತೀರಿ?
AI Coordination Gap ಒಂದು ನೈಜ ಅಪಾಯವಾಗಿದೆ. ನಿಮ್ಮ ಬಳಿ 6-ಹಂತದ ಪೈಪ್ಲೈನ್ ಇದ್ದರೆ ಮತ್ತು ಪ್ರತಿ ಹಂತವು 97% ವಿಶ್ವಾಸಾರ್ಹವಾಗಿದ್ದರೆ, ನಿಮ್ಮ ಒಟ್ಟು ವಿಶ್ವಾಸಾರ್ಹತೆಯು 83% ಕ್ಕೆ ಇಳಿಯುತ್ತದೆ. ಗೊಂದಲಮಯವಾದ ಇಂಟರ್ನೆಟ್ ಅನ್ನು ಸೇರಿಸುವುದು ಇದನ್ನು ಇನ್ನಷ್ಟು ಕಷ್ಟವಾಗಿಸುತ್ತದೆ.
ಗೆಲ್ಲಲು, ನೀವು ಈ ಐದು ಲೇಯರ್ಗಳನ್ನು ಎಂಜಿನಿಯರ್ ಮಾಡಬೇಕು:
- Retrieval: ಮಾಡೆಲ್ ಯಾವಾಗ ಹುಡುಕಬೇಕು ಎಂಬುದನ್ನು ನಿಖರವಾಗಿ ತಿಳಿಯಲು ಸ್ಪಷ್ಟ ನಿಯಮಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸಿ.
- Identity: ಏಜೆಂಟ್ ಸುರಕ್ಷಿತವಾಗಿರಲು ಸ್ಕೋಪ್ಡ್ ಕ್ರೆಡೆನ್ಶಿಯಲ್ಗಳನ್ನು (scoped credentials) ಬಳಸಿ.
- Fetching: ರ್ಯಾಂಕ್ ಮಾಡಿದ ಮತ್ತು ಸ್ವಚ್ಛವಾದ ಫಲಿತಾಂಶಗಳನ್ನು ಪಡೆಯಲು ಮ್ಯಾನೇಜ್ಡ್ ಸರ್ಚ್ ಬಳಸಿ.
- Memory: ಹಳೆಯ ಸಂದರ್ಭಕ್ಕಿಂತ (context) ಹೊಸ ಡೇಟಾವನ್ನು ಆದ್ಯತೆ ನೀಡಲು ಮಾಡೆಲ್ಗೆ ತಿಳಿಸಿ.
- Recovery: ಏಜೆಂಟ್ ಅಂತ್ಯವಿಲ್ಲದೆ ಲೂಪ್ ಆಗಿ ನಿಮ್ಮ ಬಜೆಟ್ ವ್ಯರ್ಥ ಮಾಡದಂತೆ ತಡೆಯಲು ಸರ್ಕ್ಯೂಟ್ ಬ್ರೇಕರ್ಗಳನ್ನು (circuit breakers) ಬಳಸಿ.
ವೆಬ್ ಸರ್ಚ್ ಎಂಬುದು ಫ್ರೆಶ್ನೆಸ್ (freshness) ಸಾಧನವೇ ಹೊರತು ಅಕ್ಯುರಸಿ (accuracy) ಸಾಧನವಲ್ಲ. ಇಂಟರ್ನೆಟ್ ಗೊಂದಲಮಯವಾಗಿದೆ. ನಿಮ್ಮ ಕೋಆರ್ಡಿನೇಷನ್ ಲೇಯರ್ ದುರ್ಬಲವಾಗಿದ್ದರೆ, ವೆಬ್ ಅನ್ನು ಬ್ರೌಸ್ ಮಾಡಬಲ್ಲ ಏಜೆಂಟ್ ವಾಸ್ತವವಾಗಿ ಹೆಚ್ಚು ಬಾರಿ ವಿಫಲವಾಗಬಹುದು.
AI ಮೂಲಕ ಗೆಲ್ಲುತ್ತಿರುವ ಕಂಪನಿಗಳು ಅತಿದೊಡ್ಡ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸುತ್ತಿಲ್ಲ. ಅವು ಕೋಆರ್ಡಿನೇಷನ್ ಸಮಸ್ಯೆಯನ್ನು ಪರಿಹರಿಸುತ್ತಿವೆ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi