𝗙𝗶𝗻𝗲-𝘁𝘂𝗻𝗶𝗻𝗴 𝘃𝘀 𝗥𝗔𝗚: ಎಲ್ಎಲ್ಎಮ್ (LLM) ಗೆ ಕಲಿಸಲು ಎರಡು ಮಾರ್ಗಗಳು
ನಿಮ್ಮ ಖಾಸಗಿ ದಾಖಲೆಗಳು ಅಥವಾ ಇತ್ತೀಚಿನ ಸುದ್ದಿಗಳ ಬಗ್ಗೆ ಎಲ್ಎಲ್ಎಮ್ (LLM) ಗೆ ತಿಳಿದಿರಬೇಕೆಂದು ನೀವು ಬಯಸುತ್ತೀರಿ. ನಿಮ್ಮ ಮುಂದೆ ಎರಡು ಆಯ್ಕೆಗಳಿವೆ: RAG ಅಥವಾ fine-tuning. ಜನರು ಹೆಚ್ಚಾಗಿ ತಪ್ಪು ಆಯ್ಕೆಯನ್ನು ಮಾಡಿಕೊಳ್ಳುತ್ತಾರೆ.
ನಿಯಮ ಸರಳವಾಗಿದೆ. ಸತ್ಯಾಂಶಗಳಿಗಾಗಿ (facts) RAG ಬಳಸಿ. ನಡವಳಿಕೆಗಾಗಿ (behavior) fine-tuning ಬಳಸಿ.
RAG (Retrieval-Augmented Generation) ಇದು 'ಓಪನ್-ಬುಕ್' ಪರೀಕ್ಷೆಯಂತೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ನೀವು ಡೇಟಾವನ್ನು ಮಾಡೆಲ್ನ ಹೊರಗೆ ಇರಿಸುತ್ತೀರಿ. ನೀವು ಸಂಬಂಧಿತ ಮಾಹಿತಿಯನ್ನು ಪಡೆದು ಅದನ್ನು ಪ್ರಾಂಪ್ಟ್ನಲ್ಲಿ (prompt) ಪೇಸ್ಟ್ ಮಾಡುತ್ತೀರಿ.
- ಜ್ಞಾನಕ್ಕಾಗಿ ಇದನ್ನು ಬಳಸಿ.
- ಪದೇ ಪದೇ ಬದಲಾಗುವ ಸತ್ಯಾಂಶಗಳಿಗಾಗಿ ಇದನ್ನು ಬಳಸಿ.
- ಇದು ಅಗ್ಗವಾಗಿದೆ.
- ಇದು ತಕ್ಷಣವೇ ಅಪ್ಡೇಟ್ ಆಗುತ್ತದೆ.
- ಇದು ಮೂಲಗಳನ್ನು ಉಲ್ಲೇಖಿಸುತ್ತದೆ.
Fine-tuning ಇದು ಹೊಸ ಅಭ್ಯಾಸವನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳುವಂತಿದೆ. ನೀವು ನಿರ್ದಿಷ್ಟ ಉದಾಹರಣೆಗಳ ಮೇಲೆ ಮಾಡೆಲ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸುತ್ತೀರಿ.
- ನಡವಳಿಕೆಗಾಗಿ ಇದನ್ನು ಬಳಸಿ.
- ಧ್ವನಿ (tone) ಮತ್ತು ಫಾರ್ಮ್ಯಾಟ್ಗಾಗಿ ಇದನ್ನು ಬಳಸಿ.
- ನಿರ್ದಿಷ್ಟ ಕೌಶಲ್ಯಗಳಿಗಾಗಿ ಇದನ್ನು ಬಳಸಿ.
- ಇದಕ್ಕೆ ತರಬೇತಿ ಪ್ರಕ್ರಿಯೆ (training run) ಅಗತ್ಯವಿದೆ.
- ಇದಕ್ಕೆ ಸಿದ್ಧಪಡಿಸಿದ ಉದಾಹರಣೆಗಳು ಬೇಕು.
- ಸತ್ಯಾಂಶಗಳು ಬದಲಾದಂತೆ ಇದು ಹಳೆಯದಾಗುತ್ತದೆ.
ಹೇಗೆ ಆಯ್ಕೆ ಮಾಡುವುದು: ನಿಮಗೆ ಒಂದು ಸತ್ಯಾಂಶ ಬೇಕೇ ಅಥವಾ ಒಂದು ರೀತಿಯ ನಡವಳಿಕೆ ಬೇಕೇ ಎಂದು ನಿಮ್ಮನ್ನೇ ಕೇಳಿಕೊಳ್ಳಿ.
ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಅಪ್ಡೇಟ್ ಮಾಡಲು RAG ಬಳಸಿ:
- ಉತ್ಪನ್ನಗಳ ಕ್ಯಾಟಲಾಗ್ಗಳು (Product catalogs).
- ಕಂಪನಿಯ ನೀತಿಗಳು.
- ದಿನನಿತ್ಯದ ಸುದ್ದಿ.
ಈ ಕೆಳಗಿನವುಗಳಿಗಾಗಿ fine-tuning ಬಳಸಿ:
- ನಿರ್ದಿಷ್ಟ ಬ್ರ್ಯಾಂಡ್ ಧ್ವನಿ (brand voice).
- ಕಟ್ಟುನಿಟ್ಟಾದ JSON ಔಟ್ಪುಟ್ ಫಾರ್ಮ್ಯಾಟ್.
ಅತ್ಯುತ್ತಮ ವಿಧಾನವು ಹೆಚ್ಚಾಗಿ ಎರಡನ್ನೂ ಒಳಗೊಂಡಿರುತ್ತದೆ. ಮಾಡೆಲ್ ಹೇಗೆ ಉತ್ತರಿಸಬೇಕು ಎಂಬುದಕ್ಕಾಗಿ fine-tune ಮಾಡಿ. ಅದು ಯಾವ ಸತ್ಯಾಂಶಗಳನ್ನು ಬಳಸಬೇಕು ಎಂಬುದಕ್ಕಾಗಿ RAG ಬಳಸಿ. ಒಂದು ಸಪೋರ್ಟ್ ಬಾಟ್ (support bot) ವೃತ್ತಿಪರವಾಗಿ ಕಾಣಲು fine-tuning ಅನ್ನು ಮತ್ತು ಇತ್ತೀಚಿನ ಸಹಾಯ ಲೇಖನಗಳನ್ನು ಪಡೆಯಲು RAG ಅನ್ನು ಬಳಸುತ್ತದೆ.
ಪ್ರಾಂಪ್ಟಿಂಗ್ (prompting) ಮತ್ತು RAG ಇಂದ ಪ್ರಾರಂಭಿಸಿ. ಅಗತ್ಯವಿದ್ದಾಗ ಮಾತ್ರ fine-tuning ಗೆ ಹೋಗಿ.
ಈ ಸನ್ನಿವೇಶಗಳನ್ನು ಇಲ್ಲಿ ಪರೀಕ್ಷಿಸಿ: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html
ಮೂಲ: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi