𝗙𝗶𝗻𝗲-𝘁𝘂𝗻𝗶𝗻𝗴 𝘃𝘀 𝗥𝗔𝗚: 𝗧𝘄𝗼 𝗪𝗮𝘆𝘀 𝘁𝗼 𝗧𝗲𝗮𝗰𝗵 𝗮𝗻 𝗟𝗟𝗠

మీ వ్యక్తిగత పత్రాలు లేదా తాజా వార్తల గురించి ఒక LLMకి తెలియాలని మీరు కోరుకుంటున్నారు. దీనికి మీకు రెండు ఎంపికలు ఉన్నాయి: RAG లేదా fine-tuning. ప్రజలు తరచుగా తప్పుడు దానిని ఎంచుకుంటారు.

నియమం చాలా సరళమైనది. వాస్తవాల (facts) కోసం RAGని ఉపయోగించండి. ప్రవర్తన (behavior) కోసం fine-tuningని ఉపయోగించండి.

RAG (Retrieval-Augmented Generation) ఇది ఓపెన్-బుక్ పరీక్షలా పనిచేస్తుంది. మీరు డేటాను మోడల్ వెలుపల ఉంచుతారు. సంబంధిత సమాచారాన్ని సేకరించి ప్రాంప్ట్‌లోకి (prompt) పేస్ట్ చేస్తారు.

  • దీనిని జ్ఞానం (knowledge) కోసం ఉపయోగించండి.
  • తరచుగా మారే వాస్తవాల కోసం దీనిని ఉపయోగించండి.
  • ఇది తక్కువ ఖర్చుతో కూడుకున్నది.
  • ఇది తక్షణమే అప్‌డేట్ అవుతుంది.
  • ఇది మూలాలను (sources) పేర్కొంటుంది.

Fine-tuning ఇది ఒక కొత్త అలవాటును అలవరచుకోవడంలా పనిచేస్తుంది. మీరు నిర్దిష్ట ఉదాహరణలతో మోడల్‌కు శిక్షణ ఇస్తారు.

  • దీనిని ప్రవర్తన (behavior) కోసం ఉపయోగించండి.
  • దీనిని శైలి (tone) మరియు ఫార్మాట్ కోసం ఉపయోగించండి.
  • దీనిని పరిమిత నైపుణ్యాల (narrow skills) కోసం ఉపయోగించండి.
  • దీనికి శిక్షణ (training run) అవసరం.
  • దీనికి ఎంపిక చేసిన ఉదాహరణలు (curated examples) అవసరం.
  • వాస్తవాలు మారినప్పుడు ఇది పాతది అయిపోతుంది.

ఎలా ఎంచుకోవాలి: మీకు ఒక వాస్తవం కావాలా లేదా ఒక ప్రవర్తనా విధానం కావాలా అని మిమ్మల్ని మీరు ప్రశ్నించుకోండి.

మీరు వీటిని అప్‌డేట్ చేయాలనుకుంటే RAGని ఉపయోగించండి:

  • ఉత్పత్తి катаలాగ్‌లు (Product catalogs).
  • కంపెనీ విధానాలు (Company policies).
  • రోజువారీ వార్తలు (Daily news).

మీకు ఇవి అవసరమైతే fine-tuningని ఉపయోగించండి:

  • ఒక నిర్దిష్ట బ్రాండ్ వాయిస్ (brand voice).
  • కఠినమైన JSON అవుట్‌పుట్ ఫార్మాట్.

ఉత్తమమైన విధానం తరచుగా రెండింటినీ కలపడం. మోడల్ ఎలా సమాధానం ఇవ్వాలో fine-tune చేయండి. అది ఏ వాస్తవాలను ఉపయోగించాలో RAGని ఉపయోగించండి. ఒక సపోర్ట్ బాట్ వృత్తిపరంగా (professional) మాట్లాడటానికి fine-tuningని, తాజా సహాయ వ్యాసాలను (help articles) పొందడానికి RAGని ఉపయోగిస్తుంది.

ప్రాంప్టింగ్ (prompting) మరియు RAGతో ప్రారంభించండి. తప్పనిసరి అయినప్పుడు మాత్రమే fine-tuningకి వెళ్లండి.

ఈ సినారియోలను ఇక్కడ పరీక్షించండి: https://dev48v.infy.uk/ai/days/day10-finetune-vs-rag.html

మూలం: https://dev.to/dev48v/fine-tuning-vs-rag-two-ways-to-teach-an-llm-3d04

ఐచ్ఛిక అభ్యాస సమూహం: https://t.me/GyaanSetuAi