𝗕𝘂𝗶𝗹𝗱𝗶𝗻𝗴 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗧𝗵𝗮𝘁 𝗗𝗼𝗻'𝘁 𝗛𝗮𝗹𝗹𝘂𝗰𝗶𝗻𝗮𝘁𝗲
ಹೆಚ್ಚಿನ AI ಏಜೆಂಟ್ಗಳು ಪ್ರೊಡಕ್ಷನ್ನಲ್ಲಿ ವಿಫಲವಾಗುತ್ತವೆ. ಅವು ಫಂಕ್ಷನ್ ಹೆಸರುಗಳನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳುತ್ತವೆ. ತಪ್ಪು ಪ್ಯಾರಾಮೀಟರ್ಗಳನ್ನು ಊಹಿಸುತ್ತವೆ. ತಪ್ಪು ಟೂಲ್ಗಳನ್ನು ಬಳಸುತ್ತವೆ.
ಫಂಕ್ಷನ್ ಕಾಲಿಂಗ್ (Function calling) ಇದನ್ನು ತಡೆಯಲು ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಆದರೆ ವಾಸ್ತವದಲ್ಲಿ, ಇದು ಏಜೆಂಟ್ಗಳು ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ತಪ್ಪುಗಳನ್ನು ಮಾಡಲು ಕಾರಣವಾಗುತ್ತದೆ.
ಇದನ್ನು ಸರಿಪಡಿಸಲು ನಿಮಗೆ ದೊಡ್ಡ ಮಾಡೆಲ್ಗಳ ಅಗತ್ಯವಿಲ್ಲ. ನಿಮಗೆ ಉತ್ತಮವಾದ ಆರ್ಕಿಟೆಕ್ಚರ್ (architecture) ಬೇಕು.
ವಿಶ್ವಾಸಾರ್ಹ ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಈ ನಾಲ್ಕು ಮಾದರಿಗಳನ್ನು (patterns) ಅನುಸರಿಸಿ:
ಎರಡು ಹಂತದ ರೂಟರ್ ಬಳಸಿ (Use a two-stage router) ಒಂದೇ ಬಾರಿಗೆ ಮಾಡೆಲ್ಗೆ 15 ಟೂಲ್ಗಳನ್ನು ಕಳುಹಿಸಬೇಡಿ. ಇದು ಸ್ಕೀಮಾ ಬ್ಲೋಟ್ (schema bloat) ಉಂಟುಮಾಡುತ್ತದೆ. ಬದಲಾಗಿ, ಮೊದಲು ಉದ್ದೇಶವನ್ನು (intent) ವರ್ಗೀಕರಿಸಲು ವೇಗವಾದ, ಅಗ್ಗದ ಮಾಡೆಲ್ ಬಳಸಿ. ಉದ್ದೇಶ ತಿಳಿದ ನಂತರ, ಸಂಬಂಧಿತ ಟೂಲ್ಗಳನ್ನು ಮಾತ್ರ ತೋರಿಸಿ. ಇದು ತಪ್ಪುಗಳನ್ನು 60-70% ರಷ್ಟು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
ರಚನಾತ್ಮಕ ಔಟ್ಪುಟ್ಗಳನ್ನು ಕಡ್ಡಾಯಗೊಳಿಸಿ (Enforce structured outputs) ಪ್ರಾಂಪ್ಟ್ಗಳ ಮೂಲಕ ಮಾದರಿಗಳು ಮಾನ್ಯವಾದ JSON ಅನ್ನು ನೀಡುವಂತೆ ಕೇಳುವುದನ್ನು ನಿಲ್ಲಿಸಿ. API ಮಟ್ಟದಲ್ಲಿ ಸ್ಕೀಮಾ ಎನ್ಫೋರ್ಸ್ಮೆಂಟ್ (schema enforcement) ಬಳಸಿ. 500 ಪದಗಳ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು விட ಸ್ಕೀಮಾ ಯಾವಾಗಲೂ ಉತ್ತಮವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಇದು ಮಾಡೆಲ್ ನಿಮ್ಮ ನಿಯಮಗಳನ್ನು ಅನುಸರಿಸುವುದನ್ನು ಖಚಿತಪಡಿಸುತ್ತದೆ.
ವ್ಯಾಲಿಡೇಶನ್ ಲೇಯರ್ಗಳನ್ನು ನಿರ್ಮಿಸಿ (Build validation layers) ಪ್ರತಿಯೊಂದು ಟೂಲ್ ಕಾಲ್ಗೆ ಮೂರು ಹಂತಗಳು ಬೇಕು:
- ಪ್ರಿ-ವ್ಯಾಲಿಡೇಶನ್ (Pre-validation)
- ಮಾಡೆಲ್ ಎಕ್ಸಿಕ್ಯೂಷನ್ (Model execution)
- ಪೋಸ್ಟ್-ವ್ಯಾಲಿಡೇಶನ್ (Post-validation)
ಒಂದು ವೇಳೆ ಟೂಲ್ ಕಾಲ್ ವ್ಯಾಲಿಡೇಶನ್ನಲ್ಲಿ ವಿಫಲವಾದರೆ, ಆ ತಪ್ಪನ್ನು ಮಾಡೆಲ್ಗೆ ಮರಳಿ ಕಳುಹಿಸಿ. ಮಾಡೆಲ್ಗಳು ತಮ್ಮದೇ ಆದ ಪ್ಯಾರಾಮೀಟರ್ ತಪ್ಪುಗಳನ್ನು ಎರಡನೇ ಪ್ರಯತ್ನದಲ್ಲಿ 80% ರಷ್ಟು ಸರಿಪಡಿಸಿಕೊಳ್ಳುತ್ತವೆ.
- ಕಟ್ಟುನಿಟ್ಟಿನ ಮಿತಿಗಳನ್ನು ನಿಗದಿಪಡಿಸಿ (Set hard limits) ಅನಂತ ಲೂಪ್ಗಳು (infinite loops) ನಿಮ್ಮ ಬಜೆಟ್ ಅನ್ನು ಖಾಲಿ ಮಾಡುತ್ತವೆ. ಟೈಮೌಟ್ ಆಗುವವರೆಗೆ ಮಾಡೆಲ್ ಲೂಪ್ನಲ್ಲಿ ಟೂಲ್ಗಳನ್ನು ಕರೆಯಬಹುದು. ಯಾವಾಗಲೂ ಗರಿಷ್ಠ ಇಟರೇಶನ್ ಸಂಖ್ಯೆಯನ್ನು (maximum iteration count) ನಿಗದಿಪಡಿಸಿ. ಕಟ್ಟುನಿಟ್ಟಿನ ಮಿತಿಗಳು ಕಡ್ಡಾಯವೇ ಹೊರತು ಆಯ್ಕೆಯಲ್ಲ.
ವಿವಿಧ ಕಾರ್ಯಗಳಿಗಾಗಿ ವಿಭಿನ್ನ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸುವ ಮೂಲಕ ನಿಮ್ಮ ವೆಚ್ಚವನ್ನು ಆಪ್ಟಿಮೈಸ್ ಮಾಡಿ:
- ಉದ್ದೇಶದ ರೂಟಿಂಗ್ (intent routing) ಮತ್ತು ಔಟ್ಪುಟ್ ಫಾರ್ಮ್ಯಾಟಿಂಗ್ಗಾಗಿ ಸಣ್ಣ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿ.
- ಟೂಲ್ ಆಯ್ಕೆಗಾಗಿ (tool selection) ಮಿಡ್-ಟಿಯರ್ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿ.
- ಸಂಕೀರ್ಣ ಯೋಜನೆಯಲ್ಲಿ (complex planning) ಮಾತ್ರ ಫ್ರಾಂಟಿಯರ್ ಮಾಡೆಲ್ಗಳನ್ನು ಬಳಸಿ.
ಈ ವಿಧಾನವು ಗುಣಮಟ್ಟದಲ್ಲಿ ಯಾವುದೇ ನಷ್ಟವಿಲ್ಲದೆ ವೆಚ್ಚವನ್ನು 10x ನಿಂದ 15x ರಷ್ಟು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
ವಿಶ್ವಾಸಾರ್ಹ AI ಎನ್ನುವುದು ಸಿಸ್ಟಮ್ ಡಿಸೈನ್ನ ವಿಷಯವಾಗಿದೆ. ನಿರ್ಬಂಧಗಳು (constraints), ವ್ಯಾಲಿಡೇಶನ್ ಮತ್ತು ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ (orchestration) ಮೇಲೆ ಗಮನ ಹರಿಸಿ.
ವಿಶ್ವಾಸಾರ್ಹ ಏಜೆಂಟ್ಗಳನ್ನು ನಿರ್ಮಿಸಲು ನೀವು ಯಾವ ಮಾದರಿಗಳನ್ನು ಬಳಸುತ್ತೀರಿ?