Google Inabadilisha Uzalishaji wa AI Milele
Mifumo ya kawaida ya AI huzalisha maandishi neno moja baada ya lingine. Njia hii ni ya polepole. Kila neno jipya linahitaji kupitia mtandao mzima. Hii inasababisha kizuizi (bottleneck).
Google DeepMind imeunda DiffusionGemma ili kutatua hili. Inatumia discrete text diffusion. Inafanya kazi kwa kuboresha makundi makubwa ya maandishi kwa wakati mmoja.
Sifa kuu za DiffusionGemma:
- Uzalishaji wa Sambamba (Parallel Generation): Mfumo huu unaboresha makundi yote ya maandishi kwa wakati mmoja. Haufanyi kazi kutoka kushoto kwenda kulia.
- Kasi ya Mara 4 Zaidi: Google imeripoti kasi ya hadi mara 4 zaidi kwenye GPUs.
- Mchanganyiko wa Wataalamu (Mixture of Experts): Mfumo huu unatumia vigezo (parameters) 3.8B kwa kila hatua kutoka kwenye mfumo mkuu (backbone) wenye vigezo 26B.
Mfumo huu unatumia usanifu wa encoder-decoder. Unarekebisha tokeni kwenye turubai ya kidijitali kwa wakati halisi.
Unaweza kuutumia sasa. Unatumia leseni ya Apache 2.0. Unafanya kazi na Hugging Face Transformers na vLLM.
Je, mifumo ya diffusion itachukua nafasi ya upanuzi wa AI wa kimapokeo? Au itatumika tu kwa mahitaji ya uzalishaji wa haraka? Shiriki maoni yako.
Chanzo: https://dev.to/incredibleheck/google-just-killed-autoregressive-ai-generation-diffusiongemma-36io
Jumuiya ya kujifunza ya hiari: https://t.me/GyaanSetuAi