𝗣𝗿𝗲-𝘁𝗿𝗮𝗶𝗻𝗲𝗱 𝗦𝘂𝗺𝗺𝗮𝗿𝗶𝘇𝗮𝘁𝗶𝗼𝗻 𝗗𝗶𝘀𝘁𝗶𝗹𝗹𝗮𝘁𝗶𝗼𝗻
मोठ्या लँग्वेज मॉडेल्सना (Large language models) प्रचंड प्रमाणात डेटाची आवश्यकता असते. यासाठी वेळ आणि पैसा खर्च होतो.
समरायझेशन डिस्टिलेशन (Summarization distillation) एक उत्तम पर्याय देते. यामुळे तुम्हाला मोठ्या मॉडेल्सप्रमाणेच काम करणारे लहान मॉडेल्स तयार करण्यास मदत होते.
ही प्रक्रिया 'टीचर मॉडेल'कडून (teacher model) 'स्टुडंट मॉडेल'कडे (student model) ज्ञान हस्तांतरित करून काम करते. स्टुडंट मॉडेल टीचर मॉडेलची नक्कल करायला शिकते.
या पद्धतीचे फायदे:
- कमी संगणकीय खर्च
- जलद इन्फरन्स स्पीड
- मेमरीचा कमी वापर
- विशिष्ट कामांसाठी अधिक अचूकता
तुम्हाला जड हार्डवेअरच्या गरजांशिवाय उच्च दर्जाचे सारांश मिळतात. यामुळे दैनंदिन उपयोगांसाठी AI अधिक सुलभ होते.
स्रोत: https://dev.to/paperium/pre-trained-summarization-distillation-2843
पर्यायी लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi