ఫిలిప్పీన్స్ సంస్థలు ఎందుకు స్మాల్ లాంగ్వేజ్ మోడల్స్ (SLMs) వైపు మళ్లుతున్నాయి

2026 నాటికి, ఎంటర్‌ప్రైజ్ AI వర్క్‌లోడ్‌లలో 78% అనేది 10 బిలియన్ల కంటే తక్కువ పారామీటర్లు ఉన్న మోడల్స్‌పై నడుస్తాయి. ఇది 2024లో ఉన్న 31% నుండి భారీ పెరుగుదల.

ఫిలిప్పీన్స్ వ్యాపార సంస్థలు భారీ ఫ్రంటియర్ మోడల్స్ నుండి దూరంగా వెళ్తున్నాయి. వాటికి బదులుగా స్మాల్ లాంగ్వేజ్ మోడల్స్ (SLMs)ను ఎంచుకుంటున్నాయి. ఈ మార్పు మూడు సమస్యలను పరిష్కరిస్తుంది: ఖర్చు, వేగం మరియు డేటా చట్టాలు.

ఖర్చులో తేడా

ఫ్రంటియర్ మోడల్స్ ప్రతి మిలియన్ టోకెన్లకు $0.50 నుండి $15 వరకు ఖర్చవుతాయి. ఒక మధ్యతరహా BPO ఈ API కాల్స్ కోసం ప్రతి నెలా లక్షల డాలర్లు ఖర్చు చేయవచ్చు.

SLMs ఈ లెక్కలను మారుస్తాయి. ఒకే GPUపై ఫైన్-ట్యూన్ చేసిన 7B మోడల్ ప్రతి మిలియన్ టోకెన్లకు సుమారు $0.08 ఖర్చవుతుంది. అంటే ఖర్చులో 85% తగ్గుదల.

వేగం అనే అంశం

పెద్ద క్లౌడ్ మోడల్స్ స్పందించడానికి 800 నుండి 2,000 మిల్లీసెకన్ల సమయం పడుతుంది. లోకల్ హార్డ్‌వేర్‌పై SLMs 50 నుండి 200 మిల్లీసెకన్లలో స్పందిస్తాయి. వాయిస్ ఏజెంట్లు మరియు ఫ్రాడ్ డిటెక్షన్ (మోసాల గుర్తింపు) కోసం వేగం అనేది చాలా ముఖ్యం.

డేటా సార్వభౌమాధికారం మరియు చట్టాలు

Bangko Sentral ng Pilipinas ఆర్థిక సంస్థలు డేటాను స్థానికంగా మరియు ఆడిట్ చేయదగిన విధంగా ఉంచాలని కోరుతుంది. డేటా దేశం నుండి బయటకు వెళ్లడం వల్ల పెద్ద అమెరికా ఆధారిత మోడల్స్ తరచుగా ఈ పరీక్షల్లో విఫలమవుతాయి.

సెల్ఫ్-హోస్టెడ్ SLMs మీ డేటా సెంటర్‌లోనే ఉంటాయి. లాగ్స్ (logs) మీ ఆధీనంలో ఉంటాయి. భద్రతను మీరు నియంత్రించవచ్చు.

ఫిలిప్పీన్స్‌లో మూడు ప్రధాన వినియోగ సందర్భాలు

  • BPO కార్యకలాపాలు: మెట్రో మనీలాకు చెందిన ఒక BPO 8B మోడల్‌ను ఉపయోగించడం ద్వారా ప్రతి ఇంటరాక్షన్ ఖర్చును $0.012 నుండి $0.0018కి తగ్గించుకుంది.
  • బ్యాంకింగ్: బ్యాంకులు తగలోగ్ మరియు సెబువానో భాషల్లోని పత్రాలను ప్రాసెస్ చేయడానికి SLMsని ఉపయోగిస్తాయి. స్థానిక భాషా ఖచ్చితత్వంలో ఈ మోడల్స్ సాధారణ మోడల్స్ కంటే 22% వరకు మెరుగ్గా ఉంటాయి.
  • ఆరోగ్య సంరక్షణ: ఫిలిప్పైన్ జనరల్ హాస్పిటల్ రోజువారీ రోగుల విచారణలలో 40%ని నిర్వహించడానికి ఆన్-ప్రిమిస్ (on-premise) SLMని ఉపయోగిస్తుంది.

సవాలు

SLMs నిర్వహించడం అంత సులభం కాదు. వాటిని ఫైన్-ట్యూన్ చేయడానికి మరియు పర్యవేక్షించడానికి MLOps నైపుణ్యం ఉన్నవారు కావాలి. ప్రస్తుతం, ఫిలిప్పీన్స్‌లోని 1.7 మిలియన్ల IT-BPM కార్మికులలో 5% కంటే తక్కువ మందికి ఈ అనుభవం ఉంది.

మీకు SLM అవసరమా కాదా అని ఎలా నిర్ణయించుకోవాలి:

  • మీ పని పరిమితమైనది మరియు అధిక పరిమాణంలో (high-volume) ఉందా? అయితే SLMని ఉపయోగించండి.
  • మీ డేటా సున్నితమైనదా లేదా నియంత్రించబడినదా? అయితే SLMని ఉపయోగించండి.
  • మీకు MLOps టీమ్ ఉందా? లేకపోతే, ప్రస్తుతానికి APIలకే పరిమితం అవ్వండి.

ఫిలిప్పీన్స్‌లో AI భవిష్యత్తు పెద్ద మోడల్స్‌లో లేదు. అది చిన్నవిగా, వేగంగా మరియు స్థానికంగా నియంత్రించబడే మోడల్స్‌లో ఉంది.

Source: https://dev.to/yanoai/why-philippine-enterprises-are-quietly-switching-to-small-language-models-4hek

Optional learning community: https://t.me/GyaanSetuAi