𝗠𝗶𝘇𝘂𝗻𝗴𝗼 𝗠𝗶𝘁𝗮𝘁𝘂 𝘆𝗮 𝗠𝗮𝗳𝘂𝗻𝘇𝗼 𝗜𝗻𝗮𝘁𝗲𝗻𝗴𝗲𝘇𝗮 𝗖𝗵𝗮𝘁𝗯𝗼𝘁

Kujenga Transformer hakutoshi. Unaweza kumimina mtandao mzima ndani yake na kutumia mamilioni kwenye nguvu za kompyuta (compute). Bado utaishia na mashine ambayo haiwezi kujibu swali rahisi.

Modeli ghafi ni mwigaji tu wa maandishi. Inatabiri neno linalofuata kulingana na mifumo. Ukimuuliza "Nitafanyaje kurejesha router yangu?", inaweza kujibu kwa maswali mengine kama "Nitabadilishaje nywila yangu?". Haijui kuwa unahitaji msaada. Inajua tu jinsi mtandao unavyoendeleza sentensi.

Ili kubadilisha mtabiri huu kuwa chatbot, unahitaji mizunguko mitatu ya mafunzo.

  1. Pretraining (Injini) Unaionyesha modeli maneno mabilioni. Unaficha neno la mwisho na kuifanya ikisiae. Hii hujenga maarifa. Inajifunza ukweli, sarufi, na mantiki. Hii inafanya kazi kwa sababu data hujitambulisha yenyewe. Ukubwa (scale) hufanya hili kuwa la kutabirika. Data zaidi na nguvu zaidi za kompyuta (compute) huleta matokeo bora zaidi.

  2. Instruction Tuning (Andiko/Script) Modeli ya msingi inajua kila kitu lakini haina lengo. Katika mzunguko huu, unaionyesha mifano elfu chache ya maelekezo (prompt) iliyounganishwa na jibu zuri la binadamu. Hii haiongezi maarifa mapya. Inafundisha modeli tabia mpya. Unamkabidhi mwigizaji andiko (script). Inajifunza kutenda kama msaidizi mwenye msaada badala ya kukamilisha maandishi tu.

  3. Preference Tuning (Adabu) Andiko (scripts) yana ukomo. Huwezi kuandika sheria kwa kila hali. Katika mzunguko huu, unaionyesha modeli majibu mawili tofauti na kumruhusu binadamu kuchagua bora zaidi. Modeli inajifunza kutafuta alama ya juu kulingana na ladha ya binadamu. Hii huipa modeli sauti yake, adabu yake, na mipaka yake ya usalama.

Muhtasari ni rahisi:

  • Pretraining hujenga maarifa.
  • Instruction tuning humchagua msaidizi kutoka kwenye umati.
  • Preference tuning huongeza uamuzi na adabu.

Haiba unayoiona kwenye dirisha la mazungumzo ni tabaka jembamba tu juu ya mtabiri ghafi wa maneno. Hatukuhitaji nadharia ya akili ili kujenga hili. Tulihitaji lengo rahisi, ukubwa (scale), na mizunguko miwili ya mafunzo (coaching).

Chanzo: https://dev.to/karthi_raman_02ec8161bda0/three-rounds-of-training-turn-a-word-predictor-into-a-chatbot-none-of-them-are-magic-395i

Jumuia ya kujifunza ya hiari: https://t.me/GyaanSetuAi