WeMM-Embedding 2B: 2048 ਦੀ ਬਜਾਏ 256 ਡਾਇਮੈਂਸ਼ਨਾਂ ਦੀ ਚੋਣ ਕਰੋ
ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਇੱਕ ਐਂਬੈਡਿੰਗ ਮਾਡਲ ਲੈਂਦੇ ਹਨ ਅਤੇ ਪੂਰੇ ਸਾਈਜ਼ ਦੇ ਵੈਕਟਰ ਨੂੰ ਆਪਣੇ ਪਾਈਪਲਾਈਨ ਵਿੱਚ ਪਾ ਦਿੰਦੇ ਹਨ। ਅਜਿਹਾ ਕਰਨਾ ਬੰਦ ਕਰੋ।
Tencent ਦਾ WeMM-Embedding ਟੈਕਸਟ, ਚਿੱਤਰ (images), ਵੀਡੀਓ ਅਤੇ ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ। ਇਸਦਾ 2 ਬਿਲੀਅਨ-ਪੈਰਾਮੀਟਰ ਵਾਲਾ ਵਰਜ਼ਨ ਪ੍ਰੋਡਕਸ਼ਨ ਲਈ ਤਿਆਰ ਹੈ।
ਇਸਦੀ ਮੁੱਖ ਵਿਸ਼ੇਸ਼ਤਾ Matryoshka embeddings ਹੈ—ਇੱਕ ਸਿੰਗਲ ਪਾਸ ਵਿੱਚ 64, 128, 256, 512, 1024, ਜਾਂ 2048-ਡਾਇਮੈਂਸ਼ਨਲ ਵੈਕਟਰ ਪ੍ਰਾਪਤ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ।
ਛੋਟੇ ਵੈਕਟਰ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹਨ
- Performance: 256 ਡਾਇਮੈਂਸ਼ਨਾਂ 'ਤੇ, ਇਮੇਜ ਅਤੇ ਵੀਡੀਓ ਟਾਸਕ 2048-ਡਾਇਮੈਂਸ਼ਨ ਵਾਲੇ ਵਰਜ਼ਨ ਦੀ 98.7% ਸ਼ੁੱਧਤਾ (accuracy) ਬਰਕਰਾਰ ਰੱਖਦੇ ਹਨ।
- Speed: ਛੋਟੇ ਵੈਕਟਰ ਤੁਹਾਨੂੰ ਬਹੁਤ ਹੀ ਘੱਟ ਸਮੇਂ ਵਿੱਚ ਇੰਡੈਕਸਾਂ ਨੂੰ ਮੁੜ ਬਣਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ।
- Cost: ਤੁਸੀਂ ਸਟੋਰੇਜ ਅਤੇ ਮੈਮੋਰੀ 'ਤੇ ਬਹੁਤ ਘੱਟ ਖਰਚ ਕਰਦੇ ਹੋ।
- Efficiency: ਜਦੋਂ 256 ਡਾਇਮੈਂਸ਼ਨਾਂ ਕਾਫ਼ੀ ਹੋਣ, ਤਾਂ 2048 ਡਾਇਮੈਂਸ਼ਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਸਿਰਫ਼ ਸਰੋਤਾਂ (resources) ਦੀ ਬਰਬਾਦੀ ਹੈ।
2B ਮਾਡਲ MMEB-v2 ਲੀਡਰਬੋਰਡ 'ਤੇ ਕਈ ਵੱਡੇ ਮੁਕਾਬਲੇਬਾਜ਼ਾਂ ਤੋਂ ਉੱਪਰ ਹੈ। ਇਹ ਪਹਿਲਾਂ ਹੀ ਇੱਕ ਪ੍ਰੋਡਕਸ਼ਨ ਕੰਪੋਨੈਂਟ ਹੈ—WeChat ਸਰਚ, ਈ-ਕਾਮਰਸ ਅਤੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਲਈ ਇਸ 'ਤੇ ਭਰੋਸਾ ਕਰਦਾ ਹੈ।
ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਵਧੇਰੇ ਸਪੇਸ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ
ਸਕ੍ਰੀਨਸ਼ੌਟ ਅਤੇ ਹੋਰ ਵਿਜ਼ੂਅਲ ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਸੰਘਣਾ ਟੈਕਸਟ ਅਤੇ ਗੁੰਝਲਦਾਰ ਲੇਆਉਟ ਹੁੰਦੇ ਹਨ। ਡਾਇਮੈਂਸ਼ਨਾਂ ਘਟਾਉਣ ਨਾਲ ਫੋਟੋਆਂ ਦੇ ਮੁਕਾਬਲੇ ਉਹਨਾਂ 'ਤੇ ਜ਼ਿਆਦਾ ਅਸਰ ਪੈਂਦਾ ਹੈ।
ਇਸਦੀ ਜਾਂਚ ਕਿਵੇਂ ਕਰੀਏ
- ਆਪਣੇ ਪੂਰੇ ਸਿਸਟਮ ਨੂੰ ਇੱਕੋ ਵਾਰ ਵਿੱਚ ਨਾ ਬਦਲੋ।
- ਅਜਿਹੀਆਂ 20 ਕੁਏਰੀਆਂ (queries) ਦੀ ਚੋਣ ਕਰੋ ਜਿੱਥੇ ਤੁਹਾਡਾ ਮੌਜੂਦਾ ਸੈੱਟਅੱਪ ਅਸਫਲ ਹੋ ਰਿਹਾ ਹੈ—ਇਸ ਵਿੱਚ ਸਕ੍ਰੀਨਸ਼ੌਟ, ਪ੍ਰੋਡਕਟ ਇਮੇਜ ਅਤੇ ਦਸਤਾਵੇਜ਼ਾਂ ਦੇ ਪੇਜਾਂ ਦਾ ਮਿਸ਼ਰਣ ਰੱਖੋ।
- ਉਹਨਾਂ ਕੁਏਰੀਆਂ ਨੂੰ 2B ਮਾਡਲ ਰਾਹੀਂ ਚਲਾਓ।
- ਜੇਕਰ ਨਤੀਜੇ ਬਿਹਤਰ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਬਦਲਾਅ ਲਾਗੂ ਕਰੋ। ਜੇਕਰ ਨਹੀਂ, ਤਾਂ ਤੁਸੀਂ ਸਮਾਂ ਅਤੇ ਪੈਸਾ ਬਚਾ ਲਿਆ।
ਹਰੇਕ ਕੰਟੈਂਟ ਦੀ ਕਿਸਮ ਲਈ ਇੱਕ ਸਕੋਰਕਾਰਡ ਰੱਖੋ। ਪ੍ਰੋਡਕਟ ਫੋਟੋਆਂ 256 ਡਾਇਮੈਂਸ਼ਨਾਂ 'ਤੇ ਠੀਕ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਜਦੋਂ ਕਿ PDF ਪੇਜਾਂ ਲਈ ਵਧੇਰੇ ਘੱਟੋ-ਘੱਟ ਡਾਇਮੈਂਸ਼ਨਾਂ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ।
ਸਰੋਤ: https://dev.to/bean_bean/wemm-embedding-2b-chon-vector-256-chieu-vi-2048-2igd