Fine-tuning vs RAG: ஒரு LLM-க்கு கற்றுக்கொடுக்க இரண்டு வழிகள்
உங்கள் தனிப்பட்ட ஆவணங்கள் அல்லது சமீபத்திய செய்திகளை ஒரு LLM தெரிந்து கொள்ள வேண்டும் என்று நீங்கள் விரும்புகிறீர்கள். உங்களிடம் இரண்டு தேர்வுகள் உள்ளன: RAG அல்லது fine-tuning. மக்கள் பெரும்பாலும் தவறான ஒன்றைத் தேர்ந்தெடுக்கிறார்கள்.
விதி எளிமையானது. உண்மைகளுக்கு (facts) RAG-ஐப் பயன்படுத்தவும். நடத்தைக்காக (behavior) fine-tuning-ஐப் பயன்படுத்தவும்.
RAG (Retrieval-Augmented Generation) இது ஒரு திறந்த புத்தகத் தேர்வு (open-book exam) போன்றது. நீங்கள் தரவை மாடலுக்கு வெளியே வைத்திருப்பீர்கள். தொடர்புடைய தகவல்களைப் பெற்று அதை prompt-இல் இணைப்பீர்கள்.
- அறிவிற்காகப் பயன்படுத்தவும்.
- அடிக்கடி மாறும் உண்மைகளுக்காகப் பயன்படுத்தவும்.
- இது செலவு குறைவானது.
- இது உடனடியாகப் புதுப்பிக்கப்படும்.
- இது ஆதாரங்களைக் குறிப்பிடும்.
Fine-tuning இது ஒரு புதிய பழக்கத்தை உள்வாங்கிக் கொள்வது போன்றது. குறிப்பிட்ட உதாரணங்களைக் கொண்டு நீங்கள் மாடலுக்குப் பயிற்சி அளிக்கிறீர்கள்.
- நடத்தைக்காகப் பயன்படுத்தவும்.
- தொனி (tone) மற்றும் வடிவத்திற்காகப் பயன்படுத்தவும்.
- குறிப்பிட்ட திறன்களுக்காகப் பயன்படுத்தவும்.
- இதற்கு ஒரு பயிற்சிச் சுற்று (training run) தேவைப்படும்.
- இதற்குத் தொகுக்கப்பட்ட உதாரணங்கள் (curated examples) தேவைப்படும்.
- உண்மைகள் மாறும்போது இது காலாவதியாகிவிடும்.
எப்படித் தேர்ந்தெடுப்பது: உங்களுக்கு ஒரு உண்மை தேவையா அல்லது ஒரு குறிப்பிட்ட நடத்தை முறை தேவையா என்று உங்களையே கேட்டுக்கொள்ளுங்கள்.
பின்வருவனவற்றை புதுப்பிக்க RAG-ஐப் பயன்படுத்தவும்:
- தயாரிப்புப் பட்டியல்கள் (Product catalogs).
- நிறுவனக் கொள்கைகள் (Company policies).
- தினசரி செய்திகள்.
பின்வருவன தேவைப்பட்டால் fine-tuning-ஐப் பயன்படுத்தவும்:
- ஒரு குறிப்பிட்ட பிராண்ட் குரல் (brand voice).
- ஒரு கண்டிப்பான JSON வெளியீட்டு வடிவம் (JSON output format).
சிறந்த அணுகுமுறை பெரும்பாலும் இரண்டையும் இணைப்பதே ஆகும். மாடல் எவ்வாறு பதிலளிக்கிறது என்பதற்காக fine-tune செய்யவும். அது எந்த உண்மைகளைப் பயன்படுத்துகிறது என்பதற்காக RAG-ஐப் பயன்படுத்தவும். ஒரு சப்போர்ட் பாட் (support bot) தொழில்முறைத் தொனியில் பேச fine-tuning-ஐயும், சமீபத்திய உதவி கட்டுரைகளை அணுக RAG-ஐயும் பயன்படுத்துகிறது.
Prompting மற்றும் RAG மூலம் தொடங்குங்கள். கட்டாயம் தேவைப்படும்போது மட்டுமே fine-tuning-க்கு மாறுங்கள்.
இந்தச் சூழல்களை இங்கே சோதிக்கவும்: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html
ஆதாரம்: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04
விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi