AI ಪರಿಣತಿಯನ್ನು ಬೆಳೆಸುವ ಅವಕಾಶವು ಮುಚ್ಚುತ್ತಿದೆ
ಜನರು AI ಡೆಮೋಗಳು (demos) ಮತ್ತು ಪ್ರೊಡಕ್ಷನ್ ಸಿಸ್ಟಮ್ಗಳನ್ನು (production systems) ಒಂದೇ ಎಂದು ಭಾವಿಸಿ ಮಾತನಾಡುತ್ತಾರೆ. ಅವು ಒಂದಲ್ಲ.
ಒಂದು ಆಕರ್ಷಕ ಡೆಮೋ ಮತ್ತು ನೈಜ ಜಗತ್ತಿನಲ್ಲಿ ಕೆಲಸ ಮಾಡುವ ಸಿಸ್ಟಮ್ ನಡುವೆ ದೊಡ್ಡ ಅಂತರವಿದೆ.
ಪ್ರತಿಯೊಂದನ್ನೂ ಎಲ್ಲರೂ 'ಏಜೆಂಟ್' (agent) ಎಂದು ಕರೆಯುತ್ತಾರೆ. ನೆನಪಿನ ಶಕ್ತಿಯಿರುವ ಚಾಟ್ಬಾಟ್ ಒಂದು ಏಜೆಂಟ್. ಲೂಪ್ ಇರುವ ಸ್ಕ್ರಿಪ್ಟ್ ಒಂದು ಏಜೆಂಟ್. ಇದು ತಪ್ಪು. ಈ ತಪ್ಪಿನಿಂದಾಗಿ ಎಂಜಿನಿಯರಿಂಗ್ ಕೆಡುತ್ತದೆ.
ಇದರಿಂದಾಗಿ ನೀವು ಸರಳ ಕೆಲಸಗಳಿಗೆ ಅತಿಯಾದ ಎಂಜಿನಿಯರಿಂಗ್ (over-engineering) ಮಾಡುತ್ತೀರಿ ಮತ್ತು ಕಠಿಣ ಕೆಲಸಗಳಿಗೆ ಅಲ್ಪ ಎಂಜಿನಿಯರಿಂಗ್ (under-engineering) ಮಾಡುತ್ತೀರಿ.
ಇಲ್ಲಿದೆ ನಿಜವಾದ ವ್ಯಾಖ್ಯಾನ: ಏಜೆಂಟ್ಗೆ ಒಂದು ಗುರಿ ಇರುತ್ತದೆ. ಅದು ಮುಂದಿನ ಹಂತವನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ. ಅದು ವೈಫಲ್ಯಗಳನ್ನು ನಿಭಾಯಿಸುತ್ತದೆ. ಒಂದು ಕೆಲಸ ಯಾವಾಗ ಮುಗಿಯಿತು ಎಂಬುದು ಅದಕ್ಕೆ ತಿಳಿದಿರುತ್ತದೆ. ಉಳಿದೆಲ್ಲವೂ ಕೇವಲ ಫಂಕ್ಷನ್ ಕಾಲ್ (function call) ಮಾತ್ರ.
ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸುವುದು ಹೇಗೆ: • ಮನುಷ್ಯ ಪ್ರತಿಯೊಂದು ಹಂತವನ್ನೂ ಮಾರ್ಗದರ್ಶನ ಮಾಡಬೇಕಿದ್ದರೆ, ಅದು ಚಾಟ್ ಇಂಟರ್ಫೇಸ್ ಆಗಿದೆ. • ಒಂದು ಸಿಸ್ಟಮ್ ವಿಫಲವಾದ ಟೂಲ್ ಕಾಲ್ನಿಂದ (tool call) ಚೇತರಿಸಿಕೊಂಡರೆ, ಅದು ಏಜೆಂಟ್ ಆಗಿದೆ. • ಒಂದು ಸಿಸ್ಟಮ್ ಗುರಿಯನ್ನು ಉಪ-ಕೆಲಸಗಳಾಗಿ (subtasks) ವಿಂಗಡಿಸಿದರೆ, ಅದು ನಿಜವಾದ ಏಜೆಂಟ್ ಆಗಿದೆ.
ಯಶಸ್ವಿ ತಂಡಗಳು ಕೇವಲ ಹೊಸ ಮಾಡೆಲ್ಗಳ ಬೆನ್ನಟ್ಟುವುದಿಲ್ಲ. ಅವು ಮೂರು ವಿಷಯಗಳ ಮೇಲೆ ಗಮನ ಹರಿಸುತ್ತವೆ:
- ಟೂಲ್ ಡಿಸೈನ್ (Tool design): ಇಂಟರ್ಫೇಸ್ ಎಷ್ಟು ಸ್ಪಷ್ಟವಾಗಿದೆ?
- ಫೈಲ್ಯೂರ್ ಹ್ಯಾಂಡ್ಲಿಂಗ್ (Failure handling): ಒಂದು ಟೂಲ್ ಏನನ್ನೂ ನೀಡದಿದ್ದಾಗ ಏನಾಗುತ್ತದೆ?
- ಅಬ್ಸರ್ವೇಬಿಲಿಟಿ (Observability): ಏಜೆಂಟ್ ಆ ನಿರ್ಧಾರವನ್ನು ಏಕೆ ತೆಗೆದುಕೊಂಡಿತು?
ನೀವು ಬಳಸುವ ಫ್ರೇಮ್ವರ್ಕ್ (framework) ಗಿಂತ ನೀವು ಅನುಸರಿಸುವ ಪ್ಯಾಟರ್ನ್ಗಳು (patterns) ಹೆಚ್ಚು ಮುಖ್ಯವಾಗಿವೆ. LangChain ಅಥವಾ CrewAI ಕೇವಲ ಪರಿಕರಗಳು. ಆರ್ಕಿಟೆಕ್ಚರ್ (architecture) ಮುಖ್ಯವಾದುದು.
ಈ ಪ್ಯಾಟರ್ನ್ಗಳನ್ನು ಬಳಸಿ:
- ಯೋಜಿಸಿ ನಂತರ ಕಾರ್ಯಗತಗೊಳಿಸಿ: ಯೋಜಿಸಲು ಒಂದು ಹಂತ ಮತ್ತು ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಪ್ರತ್ಯೇಕ ಹಂತವನ್ನು ಬಳಸಿ.
- ರಿಟ್ರಿವಲ್ (retrieval) ಮತ್ತು ರೀಸನಿಂಗ್ (reasoning) ಅನ್ನು ಪ್ರತ್ಯೇಕಿಸಿ: ಡೇಟಾವನ್ನು ಪಡೆಯುವುದು ಮತ್ತು ಡೇಟಾವನ್ನು ಬಳಸುವುದು ಬೇರೆ ಬೇರೆ ಕೆಲಸಗಳು.
- ಎಕ್ಸ್ಪ್ಲಿಸಿಟ್ ಹ್ಯಾಂಡ್ಆಫ್ಸ್ (Explicit handoffs): ಒಂದು ಏಜೆಂಟ್ ಮತ್ತೊಂದಕ್ಕೆ ಕೆಲಸವನ್ನು ವರ್ಗಾಯಿಸುವಾಗ ಸ್ಟ್ರಕ್ಚರ್ಡ್ ಲಾಗ್ಸ್ (structured logs) ಬಳಸಿ.
RAG ಕೂಡ ಸಮಸ್ಯೆಗಳನ್ನು ಉಂಟುಮಾಡುತ್ತಿದೆ. ಹೆಚ್ಚಿನ ಜನರು ಚಂಕಿಂಗ್ (chunking) ಮಾಡುವಲ್ಲಿ ವಿಫಲರಾಗುತ್ತಾರೆ. ನಿಮ್ಮ ಚಂಕ್ಗಳು ಸಂದರ್ಭವನ್ನು (context) ಕತ್ತರಿಸಿದರೆ, ಮಾಡೆಲ್ ಹ್ಯಾಲ್ಯುಸಿನೇಟ್ (hallucinate) ಮಾಡುತ್ತದೆ. ಮಾಡೆಲ್ ಅನ್ನು ದೂಷಿಸುವ ಮೊದಲು ನೀವು ನಿಮ್ಮ ಚಂಕಿಂಗ್ ಮತ್ತು ಮೆಟಾಡೇಟಾವನ್ನು (metadata) ಸರಿಪಡಿಸಿಕೊಳ್ಳಬೇಕು.
ಮಾಡೆಲ್ಗಳು ಉತ್ತಮಗೊಳ್ಳುತ್ತವೆ. ಟೋಕನ್ಗಳು (tokens) ಅಗ್ಗವಾಗುತ್ತವೆ. ಇದು ಎಂಜಿನಿಯರಿಂಗ್ ಸವಾಲನ್ನು ಪರಿಹರಿಸುವುದಿಲ್ಲ.
ನಂಬಬಹುದಾದ ಸಿಸ್ಟಮ್ಗಳನ್ನು ನಿರ್ಮಿಸುವುದೇ ನಿಜವಾದ ಸವಾಲು. ನಿಮಗೆ ಗವರ್ನೆನ್ಸ್ (governance) ಮತ್ತು ವಿಶ್ವಾಸಾರ್ಹ ಟೂಲ್ ಬಳಕೆ ಅಗತ್ಯವಿದೆ.
ಮುಂದಿನ ಎರಡು ವರ್ಷಗಳಲ್ಲಿ ಮುಖ್ಯವಾಗುವ ಎಂಜಿನಿಯರ್ಗಳು ಪ್ರಾಂಪ್ಟ್ ಎಂಜಿನಿಯರ್ಗಳು (prompt engineers) ಅಲ್ಲ. ಅವರು ಸಿಸ್ಟಮ್ ಡಿಸೈನರ್ಗಳು (systems designers). ಅವರು ಇತರರು ನಿರ್ವಹಿಸಬಹುದಾದ AI ಅನ್ನು ನಿರ್ಮಿಸುತ್ತಾರೆ.
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi