WeMM-Embedding 2B: Wybierz 256 wymiarów zamiast 2048
Większość osób bierze model embeddingowy i wrzuca wektor o pełnej rozdzielczości bezpośrednio do swojego pipeline'u. Przestańcie to robić.
WeMM-Embedding od Tencent obsługuje tekst, obrazy, wideo i dokumenty. Jego wersja posiadająca 2 miliardy parametrów jest gotowa do wdrożenia produkcyjnego.
Kluczową funkcją są embeddingi Matryoshka — pojedyncze przejście może wygenerować wektory o wymiarach 64, 128, 256, 512, 1024 lub 2048.
Dlaczego mniejsze wektory mają znaczenie
- Wydajność: Przy 256 wymiarach zadania związane z obrazami i wideo zachowują 98,7% dokładności wersji 2048-wymiarowej.
- Szybkość: Mniejsze wektory pozwalają na przebudowę indeksów w ułamku dotychczasowego czasu.
- Koszt: Wydajesz znacznie mniej na pamięć masową i operacyjną.
- Efektywność: Używanie 2048 wymiarów, gdy wystarczy 256, to po prostu marnowanie zasobów.
Model 2B dominuje nad wieloma większymi konkurentami w rankingu MMEB-v2. Jest już elementem produkcyjnym — WeChat polega na nim w wyszukiwarkach, e-commerce i mediach społecznościowych.
Dokumenty potrzebują więcej miejsca
Zrzuty ekranu i inne dokumenty wizualne zawierają gęsty tekst i skomplikowane układy. Zmniejszenie liczby wymiarów uderza w nie mocniej niż w zdjęcia.
Jak to przetestować
- Nie przebudowuj całego systemu naraz.
- Wybierz 20 zapytań, z którymi Twój obecny system sobie nie radzi — wymieszaj zrzuty ekranu, zdjęcia produktów i strony dokumentów.
- Przepuść te zapytania przez model 2B.
- Jeśli wyniki się poprawią, wprowadź zmianę. Jeśli nie, zaoszczędziłeś czas i pieniądze.
Prowadź zestawienie wyników dla każdego typu treści. Zdjęcia produktów mogą radzić sobie dobrze przy 256 wymiarach, podczas gdy strony PDF mogą wymagać wyższego minimum.
Źródło: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd