ಮಾಡೆಲ್ ಎಂಬುದು ಉತ್ಪನ್ನವಲ್ಲ. ನಿಜವಾದ ಉತ್ಪನ್ನ ಯಾವುದು ಎಂಬುದು ಇಲ್ಲಿದೆ.
ನಾನು AI ಅನ್ನು ವಿತರಿಸುವ (shipping) ಎಂಜಿನಿಯರ್ಗಳೊಂದಿಗೆ ಮಾತನಾಡುವ ಮತ್ತು ಅವರೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವಲ್ಲಿ ಸಮಯವನ್ನು ಕಳೆಯುತ್ತೇನೆ. ಪ್ರಾತ್ಯಕ್ಷಿಕೆಗಳು (demos) ಮತ್ತು ನೈಜ ಉತ್ಪಾದನಾ ವ್ಯವಸ್ಥೆಗಳ (production systems) ನಡುವೆ ದೊಡ್ಡ ಅಂತರವಿದೆ. ಅನೇಕ ಜನರು ಈ ಅಂತರದ ಬಗ್ಗೆ ಪ್ರಾಮಾಣಿಕವಾಗಿರುವುದಿಲ್ಲ.
ಪ್ರತಿಯೊಬ್ಬರೂ ಎಲ್ಲವನ್ನೂ 'ಏಜೆಂಟ್' (agent) ಎಂದು ಕರೆಯುತ್ತಾರೆ. ಲೂಪ್ ಇರುವ ಸ್ಕ್ರಿಪ್ಟ್ ಒಂದು ಏಜೆಂಟ್. ಮೆಮೊರಿ ಇರುವ ಚಾಟ್ಬಾಟ್ ಒಂದು ಏಜೆಂಟ್. ಇದು ಎಂಜಿನಿಯರಿಂಗ್ ತಪ್ಪುಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತದೆ. ನೀವು ಸರಳ ಕೆಲಸಗಳಿಗೆ ಅತಿಯಾದ ಎಂಜಿನಿಯರಿಂಗ್ ಮಾಡುತ್ತೀರಿ ಮತ್ತು ಸಂಕೀರ್ಣ ಕೆಲಸಗಳಿಗೆ ಅಲ್ಪ ಎಂಜಿನಿಯರಿಂಗ್ ಮಾಡುತ್ತೀರಿ.
ಏಜೆಂಟ್ಗೆ ಒಂದು ಗುರಿ (objective) ಬೇಕು. ಅದು ಕೇವಲ ಸೂಚನೆಯನ್ನು ಪಾಲಿಸುವುದಿಲ್ಲ. ಏಜೆಂಟ್ ಮುಂದೆ ಏನು ಮಾಡಬೇಕೆಂದು ತಾನೇ ನಿರ್ಧರಿಸುತ್ತದೆ. ಅದು ವೈಫಲ್ಯಗಳನ್ನು ನಿಭಾಯಿಸುತ್ತದೆ. ಕೆಲಸ ಯಾವಾಗ ಮುಗಿಯಿತು ಎಂಬುದು ಅದಕ್ಕೆ ತಿಳಿದಿರುತ್ತದೆ.
- ಮನುಷ್ಯನು ನಿಮ್ಮ ವ್ಯವಸ್ಥೆಗೆ ಪ್ರತಿಯೊಂದು ಹಂತವನ್ನೂ ಹೇಳಿಕೊಟ್ಟರೆ, ಅದು ಕೇವಲ ಚಾಟ್ ಇಂಟರ್ಫೇಸ್ ಆಗಿದೆ.
- ನಿಮ್ಮ ವ್ಯವಸ್ಥೆಯು ವಿಫಲವಾದ ಟೂಲ್ ಕಾಲ್ನಿಂದ (failed tool call) ಚೇತರಿಸಿಕೊಂಡರೆ, ನೀವು ಏಜೆಂಟ್ ಅನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದೀರಿ ಎಂದರ್ಥ.
- ನಿಮ್ಮ ವ್ಯವಸ್ಥೆಯು ಒಂದು ಗುರಿಯನ್ನು ಉಪ-ಕಾರ್ಯಗಳಾಗಿ (subtasks) ವಿಂಗಡಿಸಿದರೆ, ಅದು ನಿಜವಾದ ಏಜೆಂಟ್ ಆಗಿದೆ.
ನೈಜ ಏಜೆಂಟ್ ನಿಯೋಜನೆಗಳು (deployments) ನಿರ್ದಿಷ್ಟ ವ್ಯಾಪ್ತಿಯನ್ನು ಹೊಂದಿರುತ್ತವೆ. ಅವು ಡಾಕ್ಯುಮೆಂಟ್ ಎಕ್ಸ್ಟ್ರಾಕ್ಷನ್ ಅಥವಾ ಕೋಡ್ ರಿವ್ಯೂನಂತಹ ಒಂದು ಕೆಲಸವನ್ನು ಉತ್ತಮವಾಗಿ ಮಾಡುತ್ತವೆ. ಯಶಸ್ವಿ ತಂಡಗಳು ಹೊಸ ಮಾಡೆಲ್ಗಳ ಹಿಂದೆ ಬೀಳುವುದಿಲ್ಲ. ಅವು ಈ ಮೂರು ಕ್ಷೇತ್ರಗಳ ಮೇಲೆ ಗಮನ ಹರಿಸುತ್ತವೆ:
- ಟೂಲ್ ಡಿಸೈನ್ (Tool design): ಇಂಟರ್ಫೇಸ್ ಎಷ್ಟು ಸ್ಪಷ್ಟವಾಗಿದೆ?
- ಫೇಲ್ಯೂರ್ ಹ್ಯಾಂಡ್ಲಿಂಗ್ (Failure handling): ಒಂದು ಟೂಲ್ ಏನನ್ನೂ ನೀಡದಿದ್ದಾಗ ಏನಾಗುತ್ತದೆ?
- ಅಬ್ಸರ್ವೇಬಿಲಿಟಿ (Observability): ಏಜೆಂಟ್ ಏಕೆ ನಿರ್ಧಾರ ಕೈಗೊಂಡಿತು ಎಂಬುದನ್ನು ನೀವು ಪತ್ತೆಹಚ್ಚಬಲ್ಲಿರಾ?
LangChain ಅಥವಾ CrewAI ನಂತಹ ಫ್ರೇಮ್ವರ್ಕ್ಗಳಿಗಿಂತ ಪ್ಯಾಟರ್ನ್ಗಳು (patterns) ಹೆಚ್ಚು ಮುಖ್ಯವಾಗಿವೆ. ಫ್ರೇಮ್ವರ್ಕ್ ಎಂಬುದು ಪೀಠಿಕೆಯಷ್ಟೇ (scaffolding). ಆರ್ಕಿಟೆಕ್ಚರ್ ಎಂಬುದು ನಿಜವಾದ ಕಟ್ಟಡ.
ಈ ಪ್ಯಾಟರ್ನ್ಗಳನ್ನು ಬಳಸಿ:
- ಯೋಜಿಸಿ ನಂತರ ಕಾರ್ಯಗತಗೊಳಿಸಿ (Plan then execute). ಯೋಜನೆಗಾಗಿ ಒಂದು ಹಂತ ಮತ್ತು ಕಾರ್ಯಗತಗೊಳಿಸಲು ಪ್ರತ್ಯೇಕ ಹಂತವನ್ನು ಬಳಸಿ.
- ರಿಟ್ರಿವಲ್ (retrieval) ಮತ್ತು ರೀಸನಿಂಗ್ (reasoning) ಅನ್ನು ಪ್ರತ್ಯೇಕಿಸಿ. ಸಂದರ್ಭವನ್ನು (context) ಪಡೆಯುವುದು ಮತ್ತು ಆ ಸಂದರ್ಭವನ್ನು ಬಳಸುವುದು ಎಂಬುದು ಬೇರೆ ಬೇರೆ ಕೆಲಸಗಳು.
- ಸ್ಪಷ್ಟವಾದ ಹ್ಯಾಂಡ್ಆಫ್ಗಳು (Explicit handoffs). ಒಂದು ಏಜೆಂಟ್ ಮತ್ತೊಂದಕ್ಕೆ ಕೆಲಸವನ್ನು ವರ್ಗಾಯಿಸುವಾಗ ಆ ಹ್ಯಾಂಡ್ಆಫ್ ಅನ್ನು ವ್ಯವಸ್ಥಿತವಾಗಿ ಮಾಡಿ.
RAG ಒಂದು ಪ್ರಮಾಣಿತ ವಿಧಾನವಾಗಿದೆ, ಆದರೆ ಚಂಕಿಂಗ್ (chunking) ಆಗಿ ಹೆಚ್ಚಾಗಿ ತಪ್ಪಾಗಿರುತ್ತದೆ. ನೀವು ದಾಖಲೆಗಳನ್ನು ಸರಿಯಾಗಿ ವಿಂಗಡಿಸದಿದ್ದರೆ, ಮಾಡೆಲ್ ಸಂದರ್ಭವನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು ಹ್ಯಾಲ್ಯುಸಿನೇಟ್ (hallucinates) ಆಗುತ್ತದೆ. ನಿಮ್ಮ RAG ಫಲಿತಾಂಶಗಳು ಪ್ರಯೋಜನಕಾರಿಯಲ್ಲದಿದ್ದರೆ, ನಿಮ್ಮ ಚಂಕಿಂಗ್ ಮತ್ತು ಮೆಟಾಡ worlds (metadata) ಅನ್ನು ಸರಿಪಡಿಸಿ. ಎಂಬೆಡ್ಡಿಂಗ್ ಮಾಡೆಲ್ ಅನ್ನು ದೂಷಿಸಬೇಡಿ.
ಮಾಡೆಲ್ಗಳು ಉತ್ತಮಗೊಳ್ಳುತ್ತವೆ. ಕಾಂಟೆಕ್ಸ್ಟ್ ವಿಂಡೋಗಳು (Context windows) ಬೆಳೆಯುತ್ತವೆ. ವೆಚ್ಚಗಳು ಕಡಿಮೆಯಾಗುತ್ತವೆ. ಇದು ಎಂಜಿನಿಯರಿಂಗ್ ಸವಾಲನ್ನು ಬದಲಿಸುವುದಿಲ್ಲ. ನೀವು ಗಮನಿಸುತ್ತಿಲ್ಲದಿದ್ದಾಗಲೂ ನಂಬಬಹುದಾದ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನೀವು ನಿರ್ಮಿಸಬೇಕು.
ಗವರ್ನೆನ್ಸ್ (governance), ಅಬ್ಸರ್ವೇಬಿಲಿಟಿ (observability) ಮತ್ತು ಟೂಲ್ ಬಳಕೆಯ ಮೇಲೆ ಗಮನಹರಿಸಿ. ಕೇವಲ ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರಿಂಗ್ ಮಾಡುವುದಲ್ಲದೆ, ಸಿಸ್ಟಮ್ಸ್ ಡಿಸೈನ್ನಲ್ಲಿ ಪರಿಣತಿ ಹೊಂದಿರುವ ಎಂಜಿನಿಯರ್ಗಳೇ ಮುಖ್ಯವಾಗಲಿದ್ದಾರೆ.
ಮೂಲ: https://dev.to/aibughunter/the-model-is-not-the-product-heres-what-actually-is-52b5