WeMM-Embedding 2B: به جای ۲۰۴۸، ۲۵۶ بُعد را انتخاب کنید
بیشتر افراد یک مدل embedding را برمیدارند و بردار با اندازه کامل را مستقیماً در خط لوله (pipeline) خود قرار میدهند. از این کار دست بردارید.
مدل WeMM-Embedding شرکت Tencent متن، تصویر، ویدیو و اسناد را مدیریت میکند. نسخه ۲ میلیارد پارامتری آن برای استفاده در محیط عملیاتی (production) آماده است.
ویژگی اصلی آن Matryoshka embeddings است؛ با یک بار اجرا (single pass) میتوان بردارهای ۶۴، ۱۲۸، ۲۵۶، ۵۱۲، ۱۰۲۴ یا ۲۰۴۸ بعدی را دریافت کرد.
چرا بردارهای کوچکتر اهمیت دارند
- عملکرد: در ۲۵۶ بُعد، وظایف مربوط به تصویر و ویدیو ۹۸.۷٪ از دقت نسخه ۲۰۴۸ بعدی را حفظ میکنند.
- سرعت: بردارهای کوچکتر به شما اجازه میدهند ایندکسها را در کسری از زمان قبلی بازسازی کنید.
- هزینه: هزینه بسیار کمتری برای ذخیرهسازی و حافظه پرداخت میکنید.
- کارایی: استفاده از ۲۰۴۸ بُعد در حالی که ۲۵۶ بُعد کافی است، فقط باعث هدر رفتن منابع میشود.
مدل 2B در جدول ردهبندی MMEB-v2 از بسیاری از رقبای بزرگتر پیشی گرفته است. این مدل هماکنون یک جزء عملیاتی است؛ WeChat برای جستجو، تجارت الکترونیک و رسانههای اجتماعی به آن متکی است.
اسناد به فضای بیشتری نیاز دارند
اسکرینشاتها و سایر اسناد بصری حاوی متنهای متراکم و چیدمانهای پیچیده هستند. کاهش ابعاد در این موارد نسبت به عکسها، آسیب بیشتری وارد میکند.
چگونه آن را آزمایش کنید
۱. کل سیستم خود را به یکباره بازسازی نکنید. ۲. ۲۰ پرسوجو (query) را انتخاب کنید که سیستم فعلی شما در آنها دچار مشکل میشود؛ ترکیبی از اسکرینشاتها، تصاویر محصول و صفحات اسناد را در نظر بگیرید. ۳. آن پرسوجوها را از طریق مدل 2B اجرا کنید. ۴. اگر نتایج بهبود یافت، تغییر را اعمال کنید. اگر نه، حداقل در زمان و هزینه خود صرفهجویی کردهاید.
یک امتیازنامه برای هر نوع محتوا نگه دارید. عکسهای محصول ممکن است در ۲۵۶ بُعد مناسب باشند، در حالی که صفحات PDF ممکن است به حداقل بُعد بالاتری نیاز داشته باشند.
منبع: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd