WeMM-Embedding 2B: Chọn 256 chiều thay vì 2048

Hầu hết mọi người thường lấy một mô hình embedding và đưa toàn bộ vector kích thước đầy đủ vào pipeline của họ. Hãy ngừng làm điều đó.

WeMM-Embedding của Tencent xử lý văn bản, hình ảnh, video và tài liệu. Phiên bản 2 tỷ tham số của nó đã sẵn sàng để triển khai thực tế (production).

Tính năng nổi bật nhất là Matryoshka embeddings—chỉ với một lần chạy (single pass), mô hình có thể xuất ra các vector có số chiều là 64, 128, 256, 512, 1024 hoặc 2048.

Tại sao các vector nhỏ hơn lại quan trọng

  • Hiệu suất: Ở mức 256 chiều, các tác vụ hình ảnh và video vẫn giữ được 98,7% độ chính xác so với phiên bản 2048 chiều.
  • Tốc độ: Các vector nhỏ hơn cho phép bạn xây dựng lại chỉ mục (index) trong một khoảng thời gian ngắn hơn nhiều.
  • Chi phí: Bạn sẽ tốn ít chi phí hơn nhiều cho việc lưu trữ và bộ nhớ.
  • Hiệu quả: Sử dụng 2048 chiều khi 256 chiều là đủ chỉ làm lãng phí tài nguyên.

Mô hình 2B đứng đầu nhiều đối thủ lớn hơn trên bảng xếp hạng MMEB-v2. Nó đã là một thành phần trong thực tế—WeChat đang dựa vào nó cho các tính năng tìm kiếm, thương mại điện tử và mạng xã hội.

Tài liệu cần nhiều không gian hơn

Ảnh chụp màn hình và các tài liệu trực quan khác chứa văn bản dày đặc và bố cục phức tạp. Việc cắt giảm số chiều sẽ gây ảnh hưởng đến chúng nhiều hơn so với hình ảnh thông thường.

Cách kiểm tra

  1. Đừng thay đổi toàn bộ hệ thống của bạn cùng một lúc.
  2. Chọn ra 20 truy vấn (queries) mà thiết lập hiện tại của bạn đang gặp khó khăn—hãy kết hợp giữa ảnh chụp màn hình, hình ảnh sản phẩm và các trang tài liệu.
  3. Chạy các truy vấn đó thông qua mô hình 2B.
  4. Nếu kết quả cải thiện, hãy triển khai thay đổi. Nếu không, bạn đã tiết kiệm được thời gian và tiền bạc.

Hãy lập một bảng điểm cho từng loại nội dung. Ảnh sản phẩm có thể hoạt động tốt ở mức 256 chiều, trong khi các trang PDF có thể cần mức tối thiểu cao hơn.

Nguồn: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd