𝗙𝗶𝗻𝗲-𝘁𝘂𝗻𝗶𝗻𝗴 𝘃𝘀 𝗥𝗔𝗚: 𝗧𝘄𝗼 𝗪𝗮𝘆𝘀 𝘁𝗼 𝗧𝗲𝗮𝗰𝗵 𝗮𝗻 𝗟𝗟𝗠

आप चाहते हैं कि एक LLM आपके निजी दस्तावेज़ों या हालिया समाचारों को जाने। आपके पास दो विकल्प हैं: RAG या फाइन-ट्यूनिंग। लोग अक्सर गलत विकल्प चुन लेते हैं।

नियम सरल है। तथ्यों (facts) के लिए RAG का उपयोग करें। व्यवहार (behavior) के लिए फाइन-ट्यूनिंग का उपयोग करें।

RAG (Retrieval-Augmented Generation) यह एक ओपन-बुक परीक्षा की तरह काम करता है। आप डेटा को मॉडल के बाहर रखते हैं। आप प्रासंगिक जानकारी प्राप्त करते हैं और उसे प्रॉम्प्ट में पेस्ट कर देते हैं।

  • इसका उपयोग ज्ञान के लिए करें।
  • इसका उपयोग उन तथ्यों के लिए करें जो अक्सर बदलते रहते हैं।
  • यह सस्ता है।
  • यह तुरंत अपडेट हो जाता है।
  • यह स्रोतों का हवाला देता है।

Fine-tuning यह एक नई आदत को आत्मसात करने की तरह है। आप मॉडल को विशिष्ट उदाहरणों पर प्रशिक्षित करते हैं।

  • इसका उपयोग व्यवहार के लिए करें।
  • इसका उपयोग टोन और फॉर्मेट के लिए करें।
  • इसका उपयोग विशिष्ट कौशलों के लिए करें।
  • इसके लिए एक ट्रेनिंग रन की आवश्यकता होती है।
  • इसके लिए क्यूरेटेड (curated) उदाहरणों की आवश्यकता होती है।
  • तथ्य बदलने पर यह पुराना हो जाता है।

कैसे चुनें: खुद से पूछें कि क्या आपको किसी तथ्य की आवश्यकता है या व्यवहार करने के तरीके की।

RAG का उपयोग तब करें यदि आपको अपडेट करने की आवश्यकता है:

  • प्रोडक्ट कैटलॉग।
  • कंपनी की नीतियां।
  • दैनिक समाचार।

Fine-tuning का उपयोग तब करें यदि आपको आवश्यकता है:

  • एक विशिष्ट ब्रांड वॉइस।
  • एक सख्त JSON आउटपुट फॉर्मेट।

सबसे अच्छा तरीका अक्सर दोनों का संयोजन होता है। मॉडल कैसे उत्तर देता है, इसके लिए फाइन-ट्यून करें। वह किन तथ्यों का उपयोग करता है, इसके लिए RAG का उपयोग करें। एक सपोर्ट बॉट पेशेवर दिखने के लिए फाइन-ट्यूनिंग का उपयोग करता है और नवीनतम सहायता लेखों तक पहुँचने के लिए RAG का उपयोग करता है।

प्रॉम्प्टिंग और RAG से शुरुआत करें। फाइन-ट्यूनिंग पर तभी जाएँ जब बहुत आवश्यक हो।

इन परिदृश्यों का परीक्षण यहाँ करें: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html

स्रोत: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi