WeMM-Embedding 2B: 2048 ને બદલે 256 ડાયમેન્શન પસંદ કરો
મોટાભાગના લોકો એમ્બેડિંગ મોડેલ લે છે અને તેના ફૂલ-સાઇઝ વેક્ટરને સીધું જ તેમના પાઇપલાઇનમાં નાખી દે છે. આવું કરવાનું બંધ કરો.
Tencent નું WeMM-Embedding ટેક્સ્ટ, ઈમેજ, વિડિયો અને ડોક્યુમેન્ટ્સને હેન્ડલ કરે છે. તેનું 2 બિલિયન-પેરામીટર વર્ઝન પ્રોડક્શન માટે તૈયાર છે.
તેની મુખ્ય વિશેષતા Matryoshka embeddings છે—એક જ પાસમાં 64, 128, 256, 512, 1024 અથવા 2048-ડાયમેન્શનલ વેક્ટર્સ મેળવી શકાય છે.
નાના વેક્ટર્સ શા માટે મહત્વના છે
- પરફોર્મન્સ: 256 ડાયમેન્શન પર, ઈમેજ અને વિડિયો કાર્યો 2048-ડાયમેન્શનલ વર્ઝનની 98.7% ચોકસાઈ જાળવી રાખે છે.
- સ્પીડ: નાના વેક્ટર્સ તમને ખૂબ જ ઓછા સમયમાં ઇન્ડેક્સ ફરીથી બનાવવા દે છે.
- ખર્ચ: તમે સ્ટોરેજ અને મેમરી પર ઘણો ઓછો ખર્ચ કરશો.
- કાર્યક્ષમતા: જ્યારે 256 ડાયમેન્શન પૂરતા હોય ત્યારે 2048 ડાયમેન્શનનો ઉપયોગ કરવો એ માત્ર સંસાધનોનો બગાડ છે.
2B મોડેલ MMEB-v2 લીડરબોર્ડ પર ઘણા મોટા સ્પર્ધકો કરતા આગળ છે. તે પહેલેથી જ એક પ્રોડક્શન કમ્પોનન્ટ છે—WeChat સર્ચ, ઈ-કોમર્સ અને સોશિયલ મીડિયા માટે તેના પર નિર્ભર છે.
ડોક્યુમેન્ટ્સને વધુ જગ્યાની જરૂર હોય છે
સ્ક્રીનશોટ્સ અને અન્ય વિઝ્યુઅલ ડોક્યુમેન્ટ્સમાં ઘન ટેક્સ્ટ અને જટિલ લેઆઉટ હોય છે. ડાયમેન્શન ઘટાડવાથી ફોટા કરતા તેમના પર વધુ અસર પડે છે.
તેને કેવી રીતે ટેસ્ટ કરવું
- તમારા આખા સિસ્ટમને એકસાથે બદલવાનો પ્રયાસ ન કરો.
- એવી 20 ક્વેરીઝ પસંદ કરો જ્યાં તમારું હાલનું સેટઅપ નિષ્ફળ જતું હોય—તેમાં સ્ક્રીનશોટ્સ, પ્રોડક્ટ ઈમેજ અને ડોક્યુમેન્ટ પેજનું મિશ્રણ રાખો.
- તે ક્વેરીઝને 2B મોડેલ દ્વારા રન કરો.
- જો પરિણામો સુધરે, તો ફેરફાર લાગુ કરો. જો નહીં, તો તમે સમય અને પૈસા બચાવ્યા છે.
દરેક કન્ટેન્ટ પ્રકાર માટે સ્કોરકાર્ડ રાખો. પ્રોડક્ટ ફોટા 256 ડાયમેન્શન પર બરાબર હોઈ શકે છે, જ્યારે PDF પેજ માટે ઉચ્ચ લઘુત્તમ (minimum) ડાયમેન્શનની જરૂર પડી શકે છે.
Source: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd