ಎಂಟರ್ಪ್ರೈಸ್ AI ಪ್ರಾಜೆಕ್ಟ್ಗಳು ಒಂದು ನಿರ್ದಿಷ್ಟ ಮಾದರಿಯನ್ನು ಹೊಂದಿರುತ್ತವೆ. ಒಂದು ತಂಡವು ಪ್ರೊಟೊಟೈಪ್ ಅನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ. ಅದರ ಡೆಮೊ ಅದ್ಭುತವಾಗಿ ಕಾಣುತ್ತದೆ. ನಂತರ, ಮೂರು ತಿಂಗಳ ನಂತರ, ಸಿಸ್ಟಮ್ ಕುಸಿಯಲು ಪ್ರಾರಂಭಿಸುತ್ತದೆ. ಪ್ರತಿಕ್ರಿಯೆಗಳು ಬದಲಾಗುತ್ತವೆ (drift). ವೆಚ್ಚಗಳು ಏರುತ್ತವೆ. ಒಬ್ಬ ಕಾಂಪ್ಲೈಯನ್ಸ್ ಆಫೀಸರ್ ಒಂದು ನಿರ್ದಿಷ್ಟ ಉತ್ತರ ಎಲ್ಲಿಂದ ಬಂತು ಎಂದು ಕೇಳಿದಾಗ, ಆ ಕೋಣೆಯಲ್ಲಿರುವ ಯಾರಿಗೂ ಹೇಳಲು ಸಾಧ್ಯವಾಗುವುದಿಲ್ಲ.
ಈ ಕುಸಿತವು ಅಪರೂಪಕ್ಕೆ ಕೆಟ್ಟ ಕೋಡ್ನಿಂದ ಪ್ರಾರಂಭವಾಗುವುದಿಲ್ಲ. ಇದು ಜನಪ್ರಿಯತೆಯ ಸ್ಪರ್ಧೆಯಂತೆ ಪರಿಗಣಿಸಲ್ಪಡುವ ಒಂದು ವಾಸ್ತುಶಿಲ್ಪದ (architectural) ಆಯ್ಕೆಯಿಂದ ಪ್ರಾರಂಭವಾಗುತ್ತದೆ: Retrieval-Augmented Generation ಮತ್ತು fine-tuning ನಡುವಿನ ಆಯ್ಕೆ.
RAG ಮತ್ತು fine-tuning ಎಂಬುದು ಒಂದೇ ಉತ್ಪನ್ನದ ಎರಡು ಆವೃತ್ತಿಗಳಲ್ಲ. ಅವು ಮೂಲಭೂತವಾಗಿ ವಿಭಿನ್ನ ಪರಿಕರಗಳು. ಒಂದು ಮಾಡೆಲ್ ಏನನ್ನು ನೋಡಬಹುದು ಎಂಬುದನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ. ಇನ್ನೊಂದು ಮಾಡೆಲ್ ಹೇಗೆ ವರ್ತಿಸಬೇಕು ಎಂಬುದನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ. ಕೆಲಸಕ್ಕೆ ತಪ್ಪು ವಿಧಾನವನ್ನು ಆರಿಸಿಕೊಂಡರೆ ಅದು ಪ್ರೊಟೊಟೈಪ್ನಲ್ಲಿ ತಿಳಿಯುವುದಿಲ್ಲ. ಅದು ನಂತರ, ವ್ಯವಹಾರವು ಅದರ ಮೇಲೆ ನಡೆಯುತ್ತಿರುವಾಗ ತಿಳಿಯುತ್ತದೆ.
ಡೆಮೊ ಎಂಬ ಬಲೆ (The Demo Trap)
ಜನರೇಟಿವ್ AI ಫೀಚರ್ ಅನ್ನು ಬಿಡುಗಡೆ ಮಾಡುವ ಒತ್ತಡವು ತೀವ್ರವಾಗಿರುತ್ತದೆ. ತಂಡಗಳು ಹೆಚ್ಚಾಗಿ ಒಂದು ವಿಧಾನವನ್ನು ಆಯ್ಕೆ ಮಾಡುವುದು, ಅವರು ಅದನ್ನು ಯಾವುದೋ ಉತ್ತಮ ಟ್ಯುಟೋರಿಯಲ್ನಲ್ಲಿ ನೋಡಿದ್ದರಿಂದ ಅಥವಾ ವೆಂಡರ್ನ ಸ್ಲೈಡ್ ಡೆಕ್ ಅದನ್ನು ಸುಲಭವಾಗಿ ತೋರಿಸಿದ್ದರಿಂದ ಆಗಿರುತ್ತದೆ. ಮೂಲಸೌಕರ್ಯದ (infrastructure) ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲು ಇದು ಅತ್ಯಂತ ಕೆಟ್ಟ ಮಾರ್ಗವಾಗಿದೆ.
ನಿಯಂತ್ರಿತ ಡೆಮೊದಲ್ಲಿ fine-tuned ಮಾಡೆಲ್ ಅದ್ಭುತವಾಗಿ ಕಾಣಬಹುದು. ಅದು ನಿಮ್ಮ ಕಂಪನಿಯ ಧಾಟಿಯಲ್ಲಿ ಮಾತನಾಡುತ್ತದೆ ಮತ್ತು ನಿಮ್ಮ ಉತ್ಪನ್ನದ ಹೆಸರುಗಳನ್ನು ಗುರುತಿಸುತ್ತದೆ. RAG ಪೈಪ್ಲೈನ್ ಕೂಡ ಅದ್ಭುತವಾಗಿ ಕಾಣಬಹುದು. ಅದು ತನಗೆ ತರಬೇತಿ ನೀಡದ ದಾಖಲೆಯ ಬಗ್ಗೆ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುತ್ತದೆ. ಆದರೆ ಡೆಮೊವು ಕಾರ್ಯಾಚರಣೆಯ ವಾಸ್ತವವನ್ನು ಮರೆಮಾಚುತ್ತದೆ. ನಿಮ್ಮ ಬೆಲೆ ದತ್ತಾಂಶವು (pricing data) ವಾರಕ್ಕೊಮ್ಮೆ ಬದಲಾಗುತ್ತಿದ್ದರೆ ಮತ್ತು ನೀವು ಕಳೆದ ತ್ರೈಮಾಸಿಕದ ಅಂಕಿಅಂಶಗಳ ಮೇಲೆ fine-tuning ಮಾಡಿದ್ದರೆ, ಮಾಡೆಲ್ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಹಳೆಯ ಅಂಕಿಅಂಶಗಳನ್ನು ನೀಡುತ್ತದೆ. ನಿಮ್ಮ ಸಪೋರ್ಟ್ ತಂಡಕ್ಕೆ ಪ್ರತಿಯೊಂದು ಉತ್ತರವು ಒಂದು ನಿರ್ದಿಷ್ಟ ಪಾಲಿಸಿ PDF ಗೆ ಸಂಬಂಧಿಸಿರಬೇಕೆಂದಿದ್ದರೆ, fine-tuned ಮಾಡೆಲ್ ನಿಮಗೆ ಯಾವುದೇ ಫುಟ್ನೋಟ್ಗಳನ್ನು ನೀಡುವುದಿಲ್ಲ. ಅದು ಕೇವಲ ಪಠ್ಯವನ್ನು ನೀಡುತ್ತದೆ.
RAG ಎಂದರೆ ನಿಜವಾಗಿ ಏನು?
RAG ಎಂದರೆ Retrieval-Augmented Generation ಎಂದರ್ಥ, ಆದರೆ ಈ ಹೆಸರು ಅದನ್ನು ಇರುವതിಗಿಂತ ಹೆಚ್ಚು ಸಂಕೀರ್ಣವಾಗಿ ಕಾಣುವಂತೆ ಮಾಡುತ್ತದೆ. ಅದರ ಮೂಲತಃ, RAG ಒಂದು ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುತ್ತದೆ: ಮಾಡೆಲ್ ಈಗ ತಕ್ಷಣ ಏನನ್ನು ಹುಡುಕಬೇಕಾಗಿದೆ?
ಒಂದು ಟಿಕೆಟ್ಗೆ ಉತ್ತರಿಸುವ ಮೊದಲು ಕಂಪನಿಯ ವಿಕಿ (wiki) ಅನ್ನು ಹುಡುಕಲು ಅನುಮತಿ ಇರುವ ಗ್ರಾಹಕ ಸೇವಾ ಏಜೆಂಟ್ ಅನ್ನು ಕಲ್ಪಿಸಿಕೊಳ್ಳಿ. RAG ನಿಖರವಾಗಿ ಅದನ್ನೇ ಮಾಡುತ್ತದೆ, ಆದರೆ ಸ್ವಯಂಚಾಲಿತವಾಗಿ. ಬಳಕೆದಾರರು ಪ್ರಶ್ನೆ ಕೇಳಿದಾಗ, ಸಿಸ್ಟಮ್ ಸಂಬಂಧಿತ ಪಠ್ಯದ ತುಣುಕುಗಳಿಗಾಗಿ (chunks) ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ ಅಥವಾ ಡಾಕ್ಯುಮೆಂಟ್ ಸ್ಟೋರ್ ಅನ್ನು ಹುಡುಕುತ್ತದೆ. ನಂತರ ಅದು ಆ ತುಣುಕುಗಳನ್ನು ಮೂಲ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಸಂದರ್ಭವಾಗಿ (context) ಭಾಷಾ ಮಾಡೆಲ್ಗೆ ನೀಡುತ್ತದೆ. ಮಾಡೆಲ್ ಪಡೆದ ಪುರಾವೆಗಳ ಆಧಾರದ ಮೇಲೆ ಉತ್ತರವನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.
ನಿಮ್ಮ ಜ್ಞಾನದ ಮೂಲವು (knowledge base) ಮಾಡೆಲ್ನ ಹೊರಗಿದ್ದರೆ ಈ ವಿಧಾನವು ಅತ್ಯುತ್ತಮವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಉತ್ಪನ್ನದ ದಾಖಲೆಗಳು, ಕಾನೂನು ದಾಖಲೆಗಳು, ವೈದ್ಯಕೀಯ ಸಂಶೋಧನೆ ಮತ್ತು ಇನ್ವೆಂಟರಿ ಸ್ಪ್ರೆಡ್ಶೀಟ್ಗಳು ಎಲ್ಲವೂ ಬದಲಾಗುತ್ತಿರುತ್ತವೆ. RAG ಯಾವುದೇ ತೂಕವನ್ನು (weight) ಮರುತರಬೇತಿ ಮಾಡದೆಯೇ ಮಾಡೆಲ್ ಅನ್ನು ಅಪ್ಡೇಟ್ ಆಗಿ ಇರಿಸುತ್ತದೆ. ಇದು ನೈಸರ್ಗಿಕ ಆಡಿಟ್ ಟ್ರೈಲ್ ಅನ್ನು ಸಹ ಸೃಷ್ಟಿಸುತ್ತದೆ. ಯಾವ ದಾಖಲೆಗಳನ್ನು ಹುಡುಕಲಾಗಿತ್ತು ಎಂಬುದು ನಿಮಗೆ ತಿಳಿದಿರುವುದರಿಂದ, ಉತ್ತರವು ಎಲ್ಲಿಂದ ಬಂತು ಎಂಬುದನ್ನು ನೀವು ಆಡಿಟರ್ ಅಥವಾ ನಿಯಂತ್ರಕರಿಗೆ (regulator) ನಿಖರವಾಗಿ ತೋರಿಸಬಹುದು.
Fine-Tuning ಎಂದರೆ ನಿಜವಾಗಿ ಏನು?
Fine-tuning ಒಂದು ವಿಭಿನ್ನ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುತ್ತದೆ: ಮಾಡೆಲ್ ಹೇಗೆ ವರ್ತಿಸಬೇಕು?
ಮಾಡೆಲ್ಗೆ ಬಾಹ್ಯ ಓದುವ ಸಾಮಗ್ರಿಗಳನ್ನು ನೀಡುವ ಬದಲಿಗೆ, ನೀವು ಅದಕ್ಕೆ ಉದಾಹರಣೆಗಳ ಮೂಲಕ ಕಲಿಸುತ್ತೀರಿ. ನಿಮಗೆ ಬೇಕಾದ ಔಟ್ಪುಟ್ಗಳ ನೂರಾರು ಅಥವಾ ಸಾವಿರಾರು ಉದಾಹರಣೆಗಳನ್ನು ನೀವು ಸಂಗ್ರಹಿಸುತ್ತೀರಿ ಮತ್ತು ಆ ಡೇಟಾದ ಮೇಲೆ ಬೇಸ್ ಮಾಡೆಲ್ಗೆ ತರಬೇತಿಯನ್ನು ಮುಂದುವರಿಸುತ್ತೀರಿ. ಈ ಪ್ರಕ್ರಿಯೆಯು ಮಾಡೆಲ್ನ ಆಂತರಿಕ ಪ್ಯಾರಾಮೀಟರ್ಗಳನ್ನು (internal parameters) ಸರಿಹೊಂದಿಸುತ್ತದೆ. ಇದು weights ಅನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ.
ಇದರ ಫಲಿತಾಂಶವೆಂದರೆ ಮಾದರಿಗಳು (patterns) ಆಂತರಿಕವಾಗಿ ಅಳವಡಿಸಿಕೊಂಡಿರುವ ಮಾಡೆಲ್.