WeMM-Embedding 2B: Wählen Sie 256 Dimensionen statt 2048
Die meisten greifen zu einem Embedding-Modell und werfen den Vektor in voller Größe direkt in ihre Pipeline. Hören Sie auf damit.
Tencents WeMM-Embedding verarbeitet Text, Bilder, Videos und Dokumente. Die Version mit 2 Milliarden Parametern ist bereit für den Produktivbetrieb.
Das herausragende Feature sind Matryoshka-Embeddings – ein einziger Durchlauf kann Vektoren mit 64, 128, 256, 512, 1024 oder 2048 Dimensionen ausgeben.
Warum kleinere Vektoren wichtig sind
- Performance: Bei 256 Dimensionen behalten Bild- und Videoaufgaben 98,7 % der Genauigkeit der 2048-dimensionalen Version bei.
- Geschwindigkeit: Kleinere Vektoren ermöglichen es Ihnen, Indizes in einem Bruchteil der Zeit neu aufzubauen.
- Kosten: Sie sparen erheblich bei Speicherplatz und Arbeitsspeicher.
- Effizienz: Die Verwendung von 2048 Dimensionen, wenn 256 ausreichen, verschwendet lediglich Ressourcen.
Das 2B-Modell führt viele größere Konkurrenten auf der MMEB-v2-Bestenliste an. Es ist bereits eine Komponente im Produktivbetrieb – WeChat setzt es für die Suche, E-Commerce und soziale Medien ein.
Dokumente benötigen mehr Platz
Screenshots und andere visuelle Dokumente enthalten dichten Text und komplexe Layouts. Eine Reduzierung der Dimensionen beeinträchtigt sie stärker als Fotos.
So testen Sie es
- Überholen Sie nicht Ihr gesamtes System auf einmal.
- Wählen Sie 20 Abfragen aus, bei denen Ihr aktuelles Setup scheitert – mischen Sie Screenshots, Produktbilder und Dokumentenseiten.
- Lassen Sie diese Abfragen durch das 2B-Modell laufen.
- Wenn sich die Ergebnisse verbessern, führen Sie die Änderung ein. Wenn nicht, haben Sie Zeit und Geld gespart.
Führen Sie eine Scorecard pro Inhaltstyp. Produktfotos funktionieren bei 256 Dimensionen vielleicht gut, während PDF-Seiten möglicherweise ein höheres Minimum benötigen.
Quelle: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd