ಫಿಲಿಪೈನ್ ಉದ್ಯಮಗಳು ಏಕೆ ಸಣ್ಣ ಭಾಷಾ ಮಾದರಿಗಳಿಗೆ (Small Language Models) ಬದಲಾಗುತ್ತಿವೆ

2026ರ ವೇಳೆಗೆ, ಎಂಟರ್‌ಪ್ರೈಸ್ AI ಕೆಲಸದ ಹೊರೆಯನ್ನು (workloads) 10 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳಿಗಿಂತ ಕಡಿಮೆ ಇರುವ ಮಾದರಿಗಳು ನಿರ್ವಹಿಸುತ್ತವೆ. ಇದು 2024ರ 31% ರಿಂದ ದೊಡ್ಡ ಮಟ್ಟದ ಏರಿಕೆಯಾಗಿದೆ.

ಫಿಲಿಪೈನ್ ವ್ಯವಹಾರಗಳು ಬೃಹತ್ ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳಿಂದ (frontier models) ದೂರ ಸರಿಯುತ್ತಿವೆ. ಬದಲಾಗಿ ಅವು ಸಣ್ಣ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು (Small Language Models - SLMs) ಆರಿಸಿಕೊಳ್ಳುತ್ತಿವೆ. ಈ ಬದಲಾವಣೆಯು ಮೂರು ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸುತ್ತದೆ: ವೆಚ್ಚ, ವೇಗ ಮತ್ತು ದತ್ತಾಂಶ ಕಾನೂನುಗಳು.

ವೆಚ್ಚದ ವ್ಯತ್ಯಾಸ

ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳು ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ $0.50 ಮತ್ತು $15 ನಡುವೆ ವೆಚ್ಚವಾಗುತ್ತವೆ. ಮಧ್ಯಮ ಗಾತ್ರದ BPO ಸಂಸ್ಥೆಯು ಈ API ಕರೆಗಳಿಗಾಗಿ ಪ್ರತಿ ತಿಂಗಳು ಲಕ್ಷಾಂತರ ಡಾಲರ್‌ಗಳನ್ನು (six figures) ಖರ್ಚು ಮಾಡಬಹುದು.

SLMಗಳು ಈ ಲೆಕ್ಕಾಚಾರವನ್ನೇ ಬದಲಿಸುತ್ತವೆ. ಒಂದೇ GPU ಮೇಲೆ ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲಾದ 7B ಮಾದರಿಯು ಪ್ರತಿ ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳಿಗೆ ಸುಮಾರು $0.08 ವೆಚ್ಚವಾಗುತ್ತದೆ. ಅಂದರೆ ಇದು ವೆಚ್ಚದಲ್ಲಿ 85% ಕಡಿತವಾಗಿದೆ.

ವೇಗದ ಅಂಶ

ದೊಡ್ಡ ಕ್ಲೌಡ್ ಮಾದರಿಗಳು ಪ್ರತಿಕ್ರಿಯಿಸಲು 800 ರಿಂದ 2,000 ಮಿಲಿಸೆಕೆಂಡುಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತವೆ. ಸ್ಥಳೀಯ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ SLMಗಳು 50 ರಿಂದ 200 ಮಿಲಿಸೆಕೆಂಡುಗಳಲ್ಲಿ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತವೆ. ವಾಯ್ಸ್ ಏಜೆಂಟ್‌ಗಳು ಮತ್ತು ವಂಚನೆ ಪತ್ತೆಹಚ್ಚುವಿಕೆಗಾಗಿ (fraud detection), ವೇಗವೇ ಎಲ್ಲವೂ.

ದತ್ತಾಂಶ ಸಾರ್ವಭೌಮತ್ವ ಮತ್ತು ಕಾನೂನುಗಳು

ಬ್ಯಾಂಕೊ ಸೆಂಟ್ರಲ್ ಎನ್ಜಿ ಫಿಲಿಪಿನಾಸ್ (Bangko Sentral ng Pilipinas) ಹಣಕಾಸು ಸಂಸ್ಥೆಗಳು ದತ್ತಾಂಶವನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಮತ್ತು ಲೆಕ್ಕಪರಿಶೋಧನೆಗೆ (auditable) ಲಭ್ಯವಿರುವಂತೆ ಇರಿಸಬೇಕೆಂದು ಬಯಸುತ್ತದೆ. ಅಮೆರಿಕ ಮೂಲದ ದೊಡ್ಡ ಮಾದರಿಗಳು ದತ್ತಾಂಶವು ದೇಶವನ್ನು ಬಿಟ್ಟು ಹೋಗುವುದರಿಂದ ಹೆಚ್ಚಾಗಿ ಈ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ ವಿಫಲವಾಗುತ್ತವೆ.

ಸೆಲ್ಫ್-ಹೋಸ್ಟ್ ಮಾಡಲಾದ SLMಗಳು ನಿಮ್ಮ ಡೇಟಾ ಸೆಂಟರ್‌ನಲ್ಲೇ ಇರುತ್ತವೆ. ಲಾಗ್‌ಗಳು (logs) ನಿಮ್ಮದಾಗಿರುತ್ತವೆ. ಭದ್ರತೆಯ ನಿಯಂತ್ರಣವೂ ನಿಮ್ಮ ಕೈಯಲ್ಲೇ ಇರುತ್ತದೆ.

ಫಿಲಿಪೈನ್‌ನಲ್ಲಿನ ಮೂರು ಪ್ರಮುಖ ಬಳಕೆಗಳ ಸಂದರ್ಭಗಳು (Use Cases)

• BPO ಕಾರ್ಯಾಚರಣೆಗಳು: ಮೆಟ್ರೋ ಮನಿಲಾ ಮೂಲದ ಒಂದು BPO ಸಂಸ್ಥೆಯು 8B ಮಾದರಿಯನ್ನು ಬಳಸುವ ಮೂಲಕ ಪ್ರತಿ ಸಂವಹನಕ್ಕೆ ತಗಲುವ ವೆಚ್ಚವನ್ನು $0.012 ರಿಂದ $0.0018 ಕ್ಕೆ ಇಳಿಸಿದೆ.
• ಬ್ಯಾಂಕಿಂಗ್: ಬ್ಯಾಂಕುಗಳು ಟ್ಯಾಗಲಾಗ್ ಮತ್ತು ಸೆಬುವಾನೊ ಭಾಷೆಗಳಲ್ಲಿನ ದಾಖಲೆಗಳನ್ನು ಪ್ರಕ್ರಿಯೆಗೊಳಿಸಲು SLMಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಈ ಮಾದರಿಗಳು ಸ್ಥಳೀಯ ಭಾಷೆಯ ನಿಖರತೆಯಲ್ಲಿ ಸಾಮಾನ್ಯ ಮಾದರಿಗಳಿಗಿಂತ ಶೇ. 22 ರಷ್ಟು ಹೆಚ್ಚು ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ತೋರಿಸುತ್ತವೆ.
• ಆರೋಗ್ಯ ರಕ್ಷಣೆ: ಫಿಲಿಪೈನ್ ಜನರಲ್ ಆಸ್ಪತ್ರೆಯು ದೈನಂದಿನ ರೋಗಿಗಳ ವಿಚಾರಣೆಗಳ ಶೇ. 40 ರಷ್ಟನ್ನು ನಿರ್ವಹಿಸಲು ಆನ್-ಪ್ರೆಮಿಸ್ (on-premise) SLM ಅನ್ನು ಬಳಸುತ್ತಿದೆ.

ಸವಾಲು

SLMಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು ಸುಲಭವಲ್ಲ. ಅವುಗಳನ್ನು ಫೈನ್-ಟ್ಯೂನ್ ಮಾಡಲು ಮತ್ತು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಲು MLOps ಪ್ರತಿಭೆಗಳ ಅಗತ್ಯವಿದೆ. ಪ್ರಸ್ತುತ, ಫಿಲಿಪೈನ್‌ನ 1.7 ಮಿಲಿಯನ್ IT-BPM ಉದ್ಯೋಗಿಗಳಲ್ಲಿ ಶೇ. 5 ಕ್ಕಿಂತ ಕಡಿಮೆ ಜನರಿಗೆ ಈ ಅನುಭವವಿದೆ.

ನಿಮಗೆ SLM ಅಗತ್ಯವಿದೆಯೇ ಎಂದು ನಿರ್ಧರಿಸುವುದು ಹೇಗೆ:

• ನಿಮ್ಮ ಕೆಲಸವು ನಿರ್ದಿಷ್ಟವಾದ ಮತ್ತು ಹೆಚ್ಚಿನ ಪ್ರಮಾಣದ ಕೆಲಸವೇ? ಹಾಗಿದ್ದರೆ SLM ಬಳಸಿ.
• ನಿಮ್ಮ ದತ್ತಾಂಶವು ಸೂಕ್ಷ್ಮವಾಗಿದೆಯೇ ಅಥವಾ ನಿಯಂತ್ರಣಕ್ಕೆ ಒಳಪಟ್ಟಿದೆಯೇ? ಹಾಗಿದ್ದರೆ SLM ಬಳಸಿ.
• ನಿಮ್ಮ ಬಳಿ MLOps ತಂಡವಿದೆಯೇ? ಇಲ್ಲದಿದ್ದರೆ, ಸದ್ಯಕ್ಕೆ API ಗಳನ್ನು ಬಳಸುವುದು ಉತ್ತಮ.

ಫಿಲಿಪೈನ್‌ನಲ್ಲಿ AI ನ ಭವಿಷ್ಯವು ದೊಡ್ಡ ಮಾದರಿಗಳಲ್ಲಿದೆ ಎಂದಲ್ಲ. ಬದಲಾಗಿ ಸಣ್ಣ, ವೇಗವಾದ ಮತ್ತು ಸ್ಥಳೀಯವಾಗಿ ನಿಯಂತ್ರಿಸಲ್ಪಡುವ ಮಾದರಿಗಳಲ್ಲಿದೆ.

Source: https://dev.to/yanoai/why-philippine-enterprises-are-quietly-switching-to-small-language-models-4hek

Optional learning community: https://t.me/GyaanSetuAi