ફિલિપાઈન એન્ટરપ્રાઇઝિસ સ્મોલ લેંગ્વેજ મોડલ્સ તરફ કેમ વળી રહ્યા છે

2026 સુધીમાં, એન્ટરપ્રાઇઝ AI વર્કલોડ્સના 78% મોડલ્સ 10 બિલિયન પેરામીટર્સથી ઓછા પર ચાલશે. આ 2024 ના 31% થી એક મોટો ઉછાળો છે.

ફિલિપાઈનના વ્યવસાયો વિશાળ ફ્રન્ટિયર મોડલ્સથી દૂર જઈ રહ્યા છે. તેના બદલે તેઓ સ્મોલ લેંગ્વેજ મોડલ્સ (SLMs) પસંદ કરી રહ્યા છે. આ પરિવર્તન ત્રણ સમસ્યાઓનું નિરાકરણ લાવે છે: ખર્ચ, ઝડપ અને ડેટા કાયદાઓ.

ખર્ચનો તફાવત

ફ્રન્ટિયર મોડલ્સનો ખર્ચ પ્રતિ મિલિયન ટોકન્સ $0.50 થી $15 ની વચ્ચે હોય છે. એક મધ્યમ કદનું BPO આ API કોલ્સ પર દર મહિને છ આંકડા (six figures) ખર્ચ કરી શકે છે.

SLMs આ ગણતરી બદલી નાખે છે. સિંગલ GPU પર ફાઇન-ટ્યુન કરેલ 7B મોડલનો ખર્ચ પ્રતિ મિલિયન ટોકન્સ આશરે $0.08 થાય છે. તે ખર્ચમાં 85% નો ઘટાડો છે.

ઝડપનું પરિબળ

મોટા ક્લાઉડ મોડલ્સ પ્રતિસાદ આપતા 800 થી 2,000 મિલિસેકન્ડનો સમય લે છે. SLMs લોકલ હાર્ડવેર પર 50 થી 200 મિલિસેકન્ડમાં પ્રતિસાદ આપે છે. વોઇસ એજન્ટ્સ અને ફ્રોડ ડિટેક્શન માટે, ઝડપ જ સર્વસ્વ છે.

ડેટા સાર્વભૌમત્વ અને કાયદાઓ

Bangko Sentral ng Pilipinas નાણાકીય સંસ્થાઓ માટે ડેટા સ્થાનિક અને ઓડિટેબલ રાખવો ફરજિયાત બનાવે છે. મોટા યુએસ-આધારિત મોડલ્સ ઘણીવાર આ પરીક્ષણોમાં નિષ્ફળ જાય છે કારણ કે ડેટા દેશની બહાર જાય છે.

સેલ્ફ-હોસ્ટેડ SLMs તમારા ડેટા સેન્ટરમાં જ રહે છે. લોગ્સ (logs) તમારા માલિકીના હોય છે. સુરક્ષા પર તમારું નિયંત્રણ હોય છે.

ફિલિપાઈન્સમાં ત્રણ મુખ્ય ઉપયોગના કિસ્સાઓ (Use Cases)

• BPO કામગીરી: મેટ્રો મનિલાના એક BPO એ 8B મોડલનો ઉપયોગ કરીને પ્રતિ ઇન્ટરેક્શન ખર્ચ $0.012 થી ઘટાડીને $0.0018 કર્યો.
• બેંકિંગ: બેંકો તાગાલોગ (Tagalog) અને સેબુઆનો (Cebuano) માં દસ્તાવેજો પ્રોસેસ કરવા માટે SLMs નો ઉપયોગ કરે છે. આ મોડલ્સ સ્થાનિક ભાષાની ચોકસાઈમાં જનરલ મોડલ્સ કરતા 22% સુધી વધુ સારા છે.
• હેલ્થકેર: ફિલિપાઈન જનરલ હોસ્પિટલ રૂટિન દર્દીઓના પ્રશ્નોના 40% ને હેન્ડલ કરવા માટે ઓન-પ્રેમિસ SLM નો ઉપયોગ કરે છે.

પડકાર

SLMs ચલાવવા સરળ નથી. તેમને ફાઇન-ટ્યુન કરવા અને મોનિટર કરવા માટે MLOps ટેલેન્ટની જરૂર પડે છે. હાલમાં, ફિલિપાઈન્સના 1.7 મિલિયન IT-BPM કામદારોમાંથી 5% થી પણ ઓછા લોકો પાસે આ અનુભવ છે.

તમારે SLM ની જરૂર છે કે નહીં તે કેવી રીતે નક્કી કરવું:

• શું તમારું કાર્ય મર્યાદિત અને મોટા પ્રમાણમાં છે? SLM નો ઉપયોગ કરો.
• શું તમારો ડેટા સંવેદનશીલ અથવા નિયંત્રિત છે? SLM નો ઉપયોગ કરો.
• શું તમારી પાસે MLOps ટીમ છે? જો ન હોય, તો અત્યારે API પર જ રહો.

ફિલિપાઈન્સમાં AI નું ભવિષ્ય મોટા મોડલ્સ નથી. તે નાના, ઝડપી અને સ્થાનિક રીતે નિયંત્રિત મોડલ્સ છે.

સ્ત્રોત: https://dev.to/yanoai/why-philippine-enterprises-are-quietly-switching-to-small-language-models-4hek

વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi