Fine-tuning vs RAG: ஒரு LLM-க்கு கற்றுக்கொடுக்க இரண்டு வழிகள்

உங்கள் தனிப்பட்ட ஆவணங்கள் அல்லது சமீபத்திய செய்திகளை ஒரு LLM தெரிந்து கொள்ள வேண்டும் என்று நீங்கள் விரும்புகிறீர்கள். உங்களிடம் இரண்டு தேர்வுகள் உள்ளன: RAG அல்லது fine-tuning. மக்கள் பெரும்பாலும் தவறான ஒன்றைத் தேர்ந்தெடுக்கிறார்கள்.

விதி எளிமையானது. உண்மைகளுக்கு (facts) RAG-ஐப் பயன்படுத்தவும். நடத்தைக்காக (behavior) fine-tuning-ஐப் பயன்படுத்தவும்.

RAG (Retrieval-Augmented Generation) இது ஒரு திறந்த புத்தகத் தேர்வு (open-book exam) போன்றது. நீங்கள் தரவை மாடலுக்கு வெளியே வைத்திருப்பீர்கள். தொடர்புடைய தகவல்களைப் பெற்று அதை prompt-இல் இணைப்பீர்கள்.

  • அறிவிற்காகப் பயன்படுத்தவும்.
  • அடிக்கடி மாறும் உண்மைகளுக்காகப் பயன்படுத்தவும்.
  • இது செலவு குறைவானது.
  • இது உடனடியாகப் புதுப்பிக்கப்படும்.
  • இது ஆதாரங்களைக் குறிப்பிடும்.

Fine-tuning இது ஒரு புதிய பழக்கத்தை உள்வாங்கிக் கொள்வது போன்றது. குறிப்பிட்ட உதாரணங்களைக் கொண்டு நீங்கள் மாடலுக்குப் பயிற்சி அளிக்கிறீர்கள்.

  • நடத்தைக்காகப் பயன்படுத்தவும்.
  • தொனி (tone) மற்றும் வடிவத்திற்காகப் பயன்படுத்தவும்.
  • குறிப்பிட்ட திறன்களுக்காகப் பயன்படுத்தவும்.
  • இதற்கு ஒரு பயிற்சிச் சுற்று (training run) தேவைப்படும்.
  • இதற்குத் தொகுக்கப்பட்ட உதாரணங்கள் (curated examples) தேவைப்படும்.
  • உண்மைகள் மாறும்போது இது காலாவதியாகிவிடும்.

எப்படித் தேர்ந்தெடுப்பது: உங்களுக்கு ஒரு உண்மை தேவையா அல்லது ஒரு குறிப்பிட்ட நடத்தை முறை தேவையா என்று உங்களையே கேட்டுக்கொள்ளுங்கள்.

பின்வருவனவற்றை புதுப்பிக்க RAG-ஐப் பயன்படுத்தவும்:

  • தயாரிப்புப் பட்டியல்கள் (Product catalogs).
  • நிறுவனக் கொள்கைகள் (Company policies).
  • தினசரி செய்திகள்.

பின்வருவன தேவைப்பட்டால் fine-tuning-ஐப் பயன்படுத்தவும்:

  • ஒரு குறிப்பிட்ட பிராண்ட் குரல் (brand voice).
  • ஒரு கண்டிப்பான JSON வெளியீட்டு வடிவம் (JSON output format).

சிறந்த அணுகுமுறை பெரும்பாலும் இரண்டையும் இணைப்பதே ஆகும். மாடல் எவ்வாறு பதிலளிக்கிறது என்பதற்காக fine-tune செய்யவும். அது எந்த உண்மைகளைப் பயன்படுத்துகிறது என்பதற்காக RAG-ஐப் பயன்படுத்தவும். ஒரு சப்போர்ட் பாட் (support bot) தொழில்முறைத் தொனியில் பேச fine-tuning-ஐயும், சமீபத்திய உதவி கட்டுரைகளை அணுக RAG-ஐயும் பயன்படுத்துகிறது.

Prompting மற்றும் RAG மூலம் தொடங்குங்கள். கட்டாயம் தேவைப்படும்போது மட்டுமே fine-tuning-க்கு மாறுங்கள்.

இந்தச் சூழல்களை இங்கே சோதிக்கவும்: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html

ஆதாரம்: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04

விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi