Hugging Face ನಲ್ಲಿ ಅತಿ ಹೆಚ್ಚು ಡೌನ್ಲೋಡ್ ಮಾಡಲಾದ ಮಾಡೆಲ್ ಯಾವುದೇ ಚಾಟ್-ಬಾಟ್ ಅಲ್ಲ – ಅದು 2021 ರ 22 ಮಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್ ಹೊಂದಿರುವ ಸೆಂಟೆನ್ಸ್-ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್ ಆಗಿದ್ದು, ಇದನ್ನು 256 ಮಿಲಿಯನ್ ಬಾರಿ ಡೌನ್ಲೋಡ್ ಮಾಡಲಾಗಿದೆ. ಈ ಅಂಕಿಅಂಶಗಳು ಒಂದು ಸರಳ ಕಥೆಯನ್ನು ಹೇಳುತ್ತವೆ: ಹೆಚ್ಚಿನ ನೈಜ-ಪ್ರಪಂಚದ AI ಕೆಲಸಗಳು ದೊಡ್ಡ ಮಟ್ಟದ ಸುದ್ದಿಯಾಗುವ ಲಾರ್ಜ್ ಲ್ಯಾಂಗ್ವೇಜ್ ಮಾಡೆಲ್ಗಳ (LLMs) ಮೇಲೆ ಅಲ್ಲದೆ, ಸಣ್ಣದಾದ ಮತ್ತು CPU-ಗೆअनुकೂಲವಾದ ಮಾಡೆಲ್ಗಳ ಮೇಲೆ ನಡೆಯುತ್ತವೆ.
ಪ್ರೊಡಕ್ಷನ್ನಲ್ಲಿ ಪ್ರಾಬಲ್ಯ ಸಾಧಿಸಿರುವ ಮೂರು ಮಾಡೆಲ್ಗಳು
all-MiniLM-L6-v2 – 256 ಮಿಲಿಯನ್ ಡೌನ್ಲೋಡ್ಗಳು
ಈ 22 M-ಪ್ಯಾರಾಮೀಟರ್ ಮಾಡೆಲ್ ಪಠ್ಯದ ಒಂದು ಭಾಗವನ್ನು ಡೆನ್ಸ್ ವೆಕ್ಟರ್ ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. ಸಾಮ್ಯತೆಯನ್ನು (similarity) ಅಳೆಯಲು ಈ ವೆಕ್ಟರ್ ಅನ್ನು ಇತರರೊಂದಿಗೆ ಹೋಲಿಸಬಹುದು, ಇದು ಸೆಮ್ಯಾಂಟಿಕ್ ಸರ್ಚ್, ರೆಕಮಂಡೇಶನ್ ಇಂಜಿನ್ಗಳು ಮತ್ತು ಡ್ಯೂಪ್ಲಿಕೇಟ್-ಡಿಟೆಕ್ಷನ್ ಪೈಪ್ಲೈನ್ಗಳಿಗೆ ಶಕ್ತಿ ನೀಡುತ್ತದೆ.
ಇದು ಎಲ್ಲೆಡೆ ಇರಲು ಕಾರಣಗಳು:
- CPU ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ – ದುಬಾರಿ GPU ಅಗತ್ಯವಿಲ್ಲ.
- ಬ್ಯಾಚ್ ಪ್ರೊಸೆಸಿಂಗ್ಗೆ ವೇಗವಾಗಿದೆ – ನಿಮಿಷಗಳಲ್ಲಿ ಲಕ್ಷಾಂತರ ವಾಕ್ಯಗಳನ್ನು ಎಂಬೆಡ್ ಮಾಡಬಹುದು.
- ಸ್ಥಳೀಯವಾಗಿ ಹೋಸ್ಟ್ ಮಾಡಲು ಉಚಿತ – ಕ್ಲೌಡ್-ಸೇವೆಗಳ ಶುಲ್ಕ ಮತ್ತು ಡೇಟಾ-ಪ್ರೈವೆಸಿ ಕಾಳಜಿಗಳನ್ನು ಇದು ತಪ್ಪಿಸುತ್ತದೆ.
cross-encoder/ms-marco-MiniLM-L6-v2 – 87 ಮಿಲಿಯನ್ ಡೌನ್ಲೋಡ್ಗಳು
ಈ ಮಾಡೆಲ್ ರೀರಾಂಕರ್ (reranker) ಆಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. ಇದು ಒಂದು ಕ್ವೆರಿ ಮತ್ತು ಒಂದು ಅಭ್ಯರ್ಥಿ ದಾಖಲೆಯನ್ನು ಒಟ್ಟಿಗೆ ಪಡೆದು, ಅದರ ಪ್ರಸ್ತುತತೆಯನ್ನು (relevance score) ನೀಡುತ್ತದೆ. ಒಂದು ಸಾಮಾನ್ಯ RAG ಸ್ಟ್ಯಾಕ್ನಲ್ಲಿ ಕೆಲಸದ ಹರಿವು (workflow) ಹೀಗಿರುತ್ತದೆ:
- ವೇಗದ ಹಂತ – MiniLM ಟಾಪ್-50 ಅಭ್ಯರ್ಥಿಗಳನ್ನು ಪಡೆಯುತ್ತದೆ.
- ನಿಖರ ಹಂತ – ಆ 50 ಐಟಂಗಳನ್ನು cross-encoder ಮೂಲಕ ಮರು-ಸ್ಕೋರ್ ಮಾಡುವುದು ಉತ್ತರದ ಗುಣಮಟ್ಟವನ್ನು ಸುಧಾರಿಸುತ್ತದೆ.
ಮಾಡೆಲ್ ಪುಟದಲ್ಲಿ ಕಡಿಮೆ "ಲೈಕ್" ಸಂಖ್ಯೆಯು, ಹೆಚ್ಚಿನ ಬಳಕೆದಾರರು ಹಬ್ ಅನ್ನು ಬ್ರೌಸ್ ಮಾಡುವ ಬದಲು ಪ್ರೋಗ್ರಾಮ್ಯಾಟಿಕ್ ಆಗಿ ಇದನ್ನು ಬಳಸುತ್ತಾರೆ ಎಂದು ತೋರಿಸುತ್ತದೆ, ಆದರೆ ಡೌನ್ಲೋಡ್ ಪ್ರಮಾಣವು ಪ್ರೊಡಕ್ಷನ್ ಪೈಪ್ಲೈನ್ಗಳಲ್ಲಿ ನಿಖರತೆಯನ್ನು ಹೆಚ್ಚಿಸಲು ಇದು ಅತ್ಯಗತ್ಯವಾದ (de-facto) ಸಾಧನ ಎಂದು ಖಚಿತಪಡಿಸುತ್ತದೆ.
amazon/chronos-2 – 35 ಮಿಲಿಯನ್ ಡೌನ್ಲೋಡ್ಗಳು
Chronos-2 ಟೈಮ್-ಸೀರೀಸ್ ಡೇಟಾವನ್ನು ಪಠ್ಯದಂತೆ ಪರಿಗಣಿಸುತ್ತದೆ, ಇದು ಯಾವುದೇ ಕಾರ್ಯ-ನಿರ್ದಿಷ್ಟ ತರಬೇತಿಯಿಲ್ಲದೆ (task-specific training) ಮಾರಾಟ, ಸರ್ವರ್ ಲೋಡ್ ಅಥವಾ ಯಾವುದೇ ಸಂಖ್ಯಾತ್ಮಕ ಸಂಕೇತವನ್ನು ಮುನ್ಸೂಚನೆ ನೀಡಲು (forecast) ಒಂದು ಸಿಂಗಲ್ ಫೌಂಡೇಶನ್ ಮಾಡೆಲ್ ಅನ್ನು ಬಳಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ. ಒಂದು ವಿಶೇಷ ಮುನ್ಸೂಚಕ ಮಾಡೆಲ್ಗೆ (specialized forecaster) ಹತ್ತಾರು ಮಿಲಿಯನ್ ಡೌನ್ಲೋಡ್ಗಳ ಸಂಖ್ಯೆಯು, "ಒಮ್ಮೆ ತರಬೇತಿ ನೀಡಿ, ಎಲ್ಲಿ ಬೇಕಾದರೂ ಬಳಸಿ" (train once, run anywhere) ಎಂಬ ಪರಿಹಾರಗಳಿಗಾಗಿ ಇರುವ ಬಲವಾದ ಬೇಡಿಕೆಯನ್ನು ಸೂಚಿಸುತ್ತದೆ, ವಿಶೇಷವಾಗಿ ಪ್ರತಿಯೊಂದು ಮೆಟ್ರಿಕ್ಗಾಗಿ ಪ್ರತ್ಯೇಕ ಮಾಡೆಲ್ಗಳನ್ನು ನಿರ್ವಹಿಸುವ ಸಂಸ್ಥೆಗಳಲ್ಲಿ ಇದು ಹೆಚ್ಚು ಕಂಡುಬರುತ್ತದೆ.
ಈ ಅಂಕಿಅಂಶಗಳು AI ತಂಡಗಳಿಗೆ ಏನನ್ನು ಸೂಚಿಸುತ್ತವೆ
ಡೌನ್ಲೋಡ್ ಚಾರ್ಟ್ಗಳು ಮಾಧ್ಯಮದ ಹೈಪ್ ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಯ ವಾಸ್ತವದ ನಡುವಿನ ಅಂತರವನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತವೆ. ಪ್ರೆಸ್ ರಿಲೀಸ್ಗಳಲ್ಲಿ LLMಗಳು ಪ್ರಾಬಲ್ಯ ಹೊಂದಿದ್ದರೂ, ವಾಸ್ತವವಾಗಿ ಸೇವೆಗಳನ್ನು ಆನ್ಲೈನ್ನಲ್ಲಿ ಇರಿಸುವ ಪ್ರಮುಖ ಸಾಧನಗಳು ಇವುಗಳಾಗಿವೆ:
- ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್ಗಳು – ಇವು ಕಚ್ಚಾ ಪಠ್ಯವನ್ನು ಹುಡುಕಬಹುದಾದ ವೆಕ್ಟರ್ಗಳಾಗಿ ಪರಿವರ್ತಿಸುತ್ತವೆ.
- Cross-encoders – ಇವು ಆ ವೆಕ್ಟರ್ಗಳನ್ನು ನಿಖರವಾದ ರ್ಯಾಂಕಿಂಗ್ಗಳಾಗಿ ಪರಿಷ್ಕರಿಸುತ್ತವೆ.
- ಫೌಂಡೇಶನ್ ಫೋರ್ಕಾಸ್ಟರ್ಗಳು – ಇವು ಅನೇಕ ಸಂಖ್ಯಾತ್ಮಕ ಸರಣಿಗಳಿಗೆ ಒಂದೇ ಮಾಡೆಲ್ ಅನ್ನು ಅನ್ವಯಿಸುತ್ತವೆ.
ಇದರಿಂದ ತಿಳಿಯುವ ವಿಷಯ ಸ್ಪಷ್ಟವಾಗಿದೆ: ನೀವು ದೊಡ್ಡ ಮಟ್ಟದಲ್ಲಿ (at scale) ಕಾರ್ಯನಿರ್ವಹಿಸುವ AI ಅನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ಕೇವಲ ಹೈಪ್ ಅನ್ನು ನೋಡಿ ನಿರ್ಧರಿಸಬೇಡಿ. Hugging Face ಡೌನ್ಲೋಡ್ ಚಾರ್ಟ್ಗಳಲ್ಲಿ ಪ್ರಾಬಲ್ಯ ಹೊಂದಿರುವ ಮಾಡೆಲ್ಗಳು ಪ್ರೊಡಕ್ಷನ್ ಸಿಸ್ಟಮ್ಗಳನ್ನು ಸುಗಮವಾಗಿ ನಡೆಸುತ್ತವೆ ಮತ್ತು ನಿಜವಾದ AI ಹೂಡಿಕೆ ಎಲ್ಲಿ ನಡೆಯುತ್ತದೆ ಎಂಬುದನ್ನು ಇವುಗಳೇ ನಿರ್ಧರಿಸುತ್ತವೆ.