Fine-tuning vs RAG: LLM ला शिकवण्याचे दोन मार्ग
तुम्हाला तुमचे खाजगी दस्तऐवज किंवा अलीकडील बातम्या LLM ला माहित करून द्यायच्या आहेत. तुमच्याकडे दोन पर्याय आहेत: RAG किंवा fine-tuning. लोक अनेकदा चुकीचा पर्याय निवडतात.
नियम साधा आहे. तथ्यांसाठी (facts) RAG वापरा. वर्तणुकीसाठी (behavior) fine-tuning वापरा.
RAG (Retrieval-Augmented Generation) हे 'ओपन-बुक' परीक्षेसारखे काम करते. तुम्ही डेटा मॉडेलच्या बाहेर ठेवता. तुम्ही संबंधित माहिती मिळवता आणि ती प्रॉम्प्टमध्ये (prompt) पेस्ट करता.
- ज्ञानासाठी याचा वापर करा.
- वारंवार बदलणाऱ्या तथ्यांसाठी याचा वापर करा.
- हे स्वस्त आहे.
- ते त्वरित अपडेट होते.
- ते स्रोतांचा उल्लेख करते.
Fine-tuning हे एखादी नवीन सवय अंगीकारण्यासारखे आहे. तुम्ही मॉडेलला विशिष्ट उदाहरणांवर प्रशिक्षित करता.
- वर्तणुकीसाठी याचा वापर करा.
- टोन (tone) आणि फॉरमॅटसाठी याचा वापर करा.
- विशिष्ट कौशल्यांसाठी याचा वापर करा.
- यासाठी ट्रेनिंग रनची आवश्यकता असते.
- यासाठी निवडक (curated) उदाहरणांची आवश्यकता असते.
- तथ्ये बदलली की ते कालबाह्य होते.
कसे निवडावे: तुम्हाला तथ्य हवे आहे की वागण्याची पद्धत, हे स्वतःला विचारा.
जर तुम्हाला खालील गोष्टी अपडेट करायच्या असतील तर RAG वापरा:
- उत्पादन कॅटलॉग (Product catalogs).
- कंपनीची धोरणे (Company policies).
- दैनंदिन बातम्या.
जर तुम्हाला खालील गोष्टींची आवश्यकता असेल तर fine-tuning वापरा:
- एक विशिष्ट ब्रँड व्हॉइस (brand voice).
- एक कडक JSON आउटपुट फॉरमॅट.
सर्वोत्तम दृष्टिकोन अनेकदा दोन्हीचा एकत्रित वापर करणे हा असतो. मॉडेलने कसे उत्तर द्यावे यासाठी fine-tune करा. ते कोणती तथ्ये वापरावी यासाठी RAG वापरा. एक सपोर्ट बॉट व्यावसायिक वाटण्यासाठी fine-tuning वापरतो आणि नवीनतम मदत लेख (help articles) मिळवण्यासाठी RAG वापरतो.
प्रॉम्प्टिंग आणि RAG पासून सुरुवात करा. जेव्हा अत्यंत आवश्यक असेल तेव्हाच fine-tuning कडे वळा.
या परिस्थितींची चाचणी येथे करा: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html
स्रोत: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04
ऐच्छिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi