𝗔𝗜 𝗪𝗼𝗿𝗸𝗳𝗹𝗼𝘄𝘀, 𝗘-𝗰𝗼𝗺𝗺𝗲𝗿𝗰𝗲, ಮತ್ತು 𝗔𝗴𝗲𝗻𝘁 𝗢𝗿𝗰𝗵𝗲𝘀𝘁𝗿𝗮𝘁𝗶𝗼𝗻

AI ಅಭಿವೃದ್ಧಿಯು ಸರಳ ಪ್ರಾಂಪ್ಟ್‌ಗಳಿಂದ ಸಂಕೀರ್ಣ ವ್ಯವಸ್ಥೆಗಳತ್ತ ಸಾಗುತ್ತಿದೆ. ಈ ವಾರ, ನೀವು AI ಅನ್ನು ಹೇಗೆ ನಿರ್ಮಿಸುತ್ತೀರಿ ಮತ್ತು ನಿರ್ವಹಿಸುತ್ತೀರಿ ಎಂಬುದರಲ್ಲಿನ ಮೂರು ಪ್ರಮುಖ ಬದಲಾವಣೆಗಳನ್ನು ನಾವು ನೋಡೋಣ.

  1. ಸ್ಥಿತಿಸ್ಥಾಪಕತ್ವವುಳ್ಳ (Resilient) LLM ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸುವುದು

ಒಂದೇ AI ಪ್ರೊವೈಡರ್ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುವುದು ಅಪಾಯಕಾರಿ. API ಮಿತಿಗಳು ಮತ್ತು ಡೌನ್‌ಟೈಮ್‌ಗಳು ಸಂಭವಿಸಬಹುದು. ನಿಮ್ಮ ಅಪ್ಲಿಕೇಶನ್ ಚಾಲನೆಯಲ್ಲಿರಲು ನಿಮಗೆ ಫಾಲ್‌ಬ್ಯಾಕ್ (fallback) ವ್ಯವಸ್ಥೆಯ ಅಗತ್ಯವಿದೆ.

ಒಬ್ಬ ಡೆವಲಪರ್ ಮೂರು ವಿಭಿನ್ನ LLM ಪ್ರೊವೈಡರ್‌ಗಳನ್ನು ಬಳಸಿ ಒಂದು ವ್ಯವಸ್ಥೆಯನ್ನು ನಿರ್ಮಿಸಿದ್ದಾರೆ. ಒಂದು API ವಿಫಲವಾದರೆ, ವ್ಯವಸ್ಥೆಯು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಮುಂದಿನದಕ್ಕೆ ಬದಲಾಗುತ್ತದೆ. ಇದು ನಿಮ್ಮ ಬಳಕೆದಾರರು ಎಂದಿಗೂ ದೋಷವನ್ನು (error) ನೋಡದಂತೆ ಖಚಿತಪಡಿಸುತ್ತದೆ. ನೀವು ಇವುಗಳಿಗಾಗಿ ಯೋಜಿಸಬೇಕು:

  1. ಏಜೆಂಟಿಕ್ ಇ-ಕಾಮರ್ಸ್ (Agentic E-commerce)

ಸಾಂಪ್ರದಾಯಿಕ ಆನ್‌ಲೈನ್ ಸ್ಟೋರ್‌ಗಳು ಸ್ಟ್ಯಾಟಿಕ್ ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಹೊಸ ವಿಧಾನವು ಡೈನಾಮಿಕ್ ಶಾಪಿಂಗ್ ಅನುಭವವನ್ನು ನೀಡಲು AI ಏಜೆಂಟ್‌ಗಳನ್ನು ಬಳಸುತ್ತದೆ.

Turbo Start Aisle ಯೋಜನೆಯು ಜನರು ಶಾಪಿಂಗ್ ಮಾಡುವ ವಿಧಾನವನ್ನು ಬದಲಾಯಿಸಲು Shopify ಮತ್ತು Sanity ಅನ್ನು ಬಳಸುತ್ತದೆ. ವರ್ಗಗಳನ್ನು (categories) ಕ್ಲಿಕ್ ಮಾಡುವ ಬದಲಿಗೆ, ಬಳಕೆದಾರರು ಏಜೆಂಟ್ ಜೊತೆ ಮಾತನಾಡುತ್ತಾರೆ. ಸಂಭಾಷಣೆಯ ಆಧಾರದ ಮೇಲೆ ಏಜೆಂಟ್ UI ಅನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ ಮತ್ತು ನೈಜ ಸಮಯದಲ್ಲಿ (real-time) ಉತ್ಪನ್ನಗಳನ್ನು ಹುಡುಕುತ್ತದೆ. ಇದು ಇ-ಕಾಮರ್ಸ್ ಅನ್ನು ಸ್ಟ್ಯಾಟಿಕ್ ಪುಟಗಳಿಂದ ಸಂವಾದಾತ್ಮಕ ಪ್ರಯಾಣಗಳತ್ತ (interactive journeys) ಕೊಂಡೊಯ್ಯುತ್ತದೆ.

  1. ಸಮಾಂತರ (Parallel) AI ಏಜೆಂಟ್‌ಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು

GitHub ಹೊಸ Copilot Desktop ಅಪ್ಲಿಕೇಶನ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದೆ. ಇದು ಕೇವಲ ಕೋಡ್ ಸೂಚಿಸುವ ಸಾಧನಕ್ಕಿಂತ (code suggester) ಹೆಚ್ಚಿನದಾಗಿದೆ. ಇದು ಅನೇಕ ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ಒಂದು ಹಬ್ ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.

ನೀವು ಈಗ ವಿವಿಧ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಏಕಕಾಲದಲ್ಲಿ ಹಲವಾರು ಏಜೆಂಟ್‌ಗಳನ್ನು ಚಲಾಯಿಸಬಹುದು. ಒಂದು ಏಜೆಂಟ್ ಕೋಡ್ ಬರೆಯುವಾಗ ಇನ್ನೊಂದು ಏಜೆಂಟ್ ಟೆಸ್ಟ್‌ಗಳನ್ನು ಬರೆಯುತ್ತದೆ ಅಥವಾ ಡಿಬಗ್ ಮಾಡುತ್ತದೆ. ಇದು ಒಂದೇ ಇಂಟರ್ಫೇಸ್‌ನಿಂದ ಸಂಕೀರ್ಣ ವರ್ಕ್‌ಫ್ಲೋಗಳನ್ನು ನಿರ್ವಹಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ.

ಪ್ರಮುಖ ಅಂಶಗಳ ಸಾರಾಂಶ:

ಪೂರ್ಣ ಪೋಸ್ಟ್: https://dev.to/soytuber/llm-fallback-in-production-agentic-ecommerce-and-github-copilot-for-parallel-agents-1pap

ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi