WeMM-Embedding 2B: 2048 ऐवजी 256 डायमेन्शन्स निवडा
बहुतेक लोक एक एम्बेडिंग मॉडेल घेतात आणि त्याचा पूर्ण आकाराचा वेक्टर थेट त्यांच्या पाइपलाइनमध्ये वापरतात. असे करणे थांबवा.
Tencent चे WeMM-Embedding मजकूर, प्रतिमा, व्हिडिओ आणि दस्तऐवज हाताळते. त्याचे 2 बिलियन-पॅरामीटर व्हर्जन प्रोडक्शनसाठी तयार आहे.
याचे मुख्य वैशिष्ट्य म्हणजे Matryoshka embeddings—एकाच पासमध्ये तुम्ही 64, 128, 256, 512, 1024 किंवा 2048-डायमेन्शनल वेक्टर्स मिळवू शकता.
लहान वेक्टर्स का महत्त्वाचे आहेत
- Performance: 256 डायमेन्शन्सवर देखील, इमेज आणि व्हिडिओ टास्कमध्ये 2048-dim व्हर्जनच्या तुलनेत 98.7% अचूकता टिकून राहते.
- Speed: लहान वेक्टर्समुळे तुम्ही खूप कमी वेळात इंडेक्स पुन्हा तयार करू शकता.
- Cost: स्टोरेज आणि मेमरीवर तुमचा खर्च खूप कमी होतो.
- Efficiency: जेव्हा 256 डायमेन्शन्स पुरेसे असतात, तेव्हा 2048 डायमेन्शन्स वापरणे म्हणजे केवळ संसाधनांचा अपव्यय करणे होय.
2B मॉडेल MMEB-v2 लीडरबोर्डवर अनेक मोठ्या स्पर्धकांना मागे टाकते. हे आधीच प्रोडक्शनमधील एक घटक आहे—WeChat सर्च, ई-कॉमर्स आणि सोशल मीडियासाठी यावर अवलंबून आहे.
दस्तऐवजांना अधिक जागेची गरज असते
स्क्रीनशॉट्स आणि इतर व्हिज्युअल दस्तऐवजांमध्ये दाट मजकूर आणि गुंतागुंतीचे लेआउट्स असतात. डायमेन्शन्स कमी केल्यास फोटोंच्या तुलनेत त्यांच्यावर जास्त परिणाम होतो.
याची चाचणी कशी करावी
- तुमचे संपूर्ण सिस्टम एकाच वेळी बदलू नका.
- अशा 20 क्वेरीज निवडा जिथे तुमचे सध्याचे सेटअप अपयशी ठरते—यात स्क्रीनशॉट्स, प्रॉडक्ट इमेजेस आणि डॉक्युमेंट पेजेस यांचा समावेश असावा.
- त्या क्वेरीज 2B मॉडेलद्वारे रन करा.
- जर रिझल्ट्समध्ये सुधारणा झाली, तर हा बदल लागू करा. जर सुधारणा झाली नाही, तर तुमचा वेळ आणि पैसा वाचला.
प्रत्येक कंटेंट प्रकारासाठी एक स्कोरकार्ड ठेवा. प्रॉडक्ट फोटोंसाठी 256 डायमेन्शन्स ठीक असू शकतात, परंतु PDF पेजेससाठी कदाचित जास्त किमान डायमेन्शन्सची आवश्यकता भासू शकते.
स्त्रोत: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd