Fine-tuning vs RAG: Bir LLM'e Öğretmenin İki Yolu
Bir LLM'in özel belgelerinizi veya güncel haberleri bilmesini istiyorsunuz. İki seçeneğiniz var: RAG veya fine-tuning. İnsanlar genellikle yanlış olanı seçiyor.
Kural basit. Gerçekler için RAG kullanın. Davranış için fine-tuning kullanın.
RAG (Retrieval-Augmented Generation) Bu, açık kitap sınavı gibi işler. Verileri modelin dışında tutarsınız. İlgili bilgiyi çeker ve isteme (prompt) yapıştırırsınız.
- Bilgi için kullanın.
- Sık değişen gerçekler için kullanın.
- Ucuzdur.
- Anında güncellenir.
- Kaynak gösterir.
Fine-tuning Bu, yeni bir alışkanlığı içselleştirmek gibidir. Modeli belirli örnekler üzerinde eğitirsiniz.
- Davranış için kullanın.
- Ton ve format için kullanın.
- Dar kapsamlı beceriler için kullanın.
- Bir eğitim süreci gerektirir.
- Özenle seçilmiş örnekler gerektirir.
- Gerçekler değiştikçe güncelliğini yitirir.
Nasıl seçilir: Kendinize bir bilgiye mi yoksa bir davranış biçimine mi ihtiyacınız olduğunu sorun.
Şunları güncellemeniz gerekiyorsa RAG kullanın:
- Ürün katalogları.
- Şirket politikaları.
- Günlük haberler.
Şunlara ihtiyacınız varsa fine-tuning kullanın:
- Belirli bir marka sesi.
- Katı bir JSON çıktı formatı.
En iyi yaklaşım genellikle her ikisini birleştirir. Modelin nasıl cevap vereceği için fine-tuning yapın. Hangi gerçekleri kullanacağı için RAG kullanın. Bir destek botu, profesyonel görünmek için fine-tuning'i, en güncel yardım makalelerine erişmek için ise RAG'ı kullanır.
Prompting ve RAG ile başlayın. Fine-tuning'e yalnızca mecbur kaldığınızda geçin.
Bu senaryoları burada test edin: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html
Kaynak: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi