फिलीपिन्समधील उद्योग स्मॉल लँग्वेज मॉडेल्सकडे (SLMs) का वळत आहेत

२०२६ पर्यंत, एंटरप्राइझ AI वर्कलोड्सपैकी ७८% मॉडेल्स १० अब्ज पॅरामीटर्सपेक्षा कमी असलेल्या मॉडेल्सवर चालतील. २०२४ मधील ३१% च्या तुलनेत ही एक मोठी वाढ आहे.

फिलीपिन्समधील व्यवसाय आता अवाढव्य 'फ्रंटियर मॉडेल्स'पासून दूर जात आहेत. त्याऐवजी ते स्मॉल लँग्वेज मॉडेल्स (SLMs) निवडत आहेत. हा बदल तीन समस्या सोडवतो: खर्च, वेग आणि डेटा कायदे.

खर्चातील फरक

फ्रंटियर मॉडेल्सचा खर्च प्रति दशलक्ष टोकन्स $०.५० ते $१५ दरम्यान असतो. एक मध्यम आकाराचा BPO या API कॉल्सवर दरमहा लाखो डॉलर्स खर्च करू शकतो.

SLMs मुळे हे गणित बदलते. एका सिंगल GPU वर फाईन-ट्यून केलेले 7B मॉडेल प्रति दशलक्ष टोकन्ससाठी सुमारे $०.०८ खर्च करते. म्हणजेच खर्चात ८५% कपात होते.

वेगाचा घटक

मोठ्या क्लाउड मॉडेल्सना प्रतिसाद देण्यासाठी ८०० ते २,००० मिलीसेकंद लागतात. स्थानिक हार्डवेअरवर SLMs ५० ते २०० मिलीसेकंदात प्रतिसाद देतात. व्हॉइस एजंट्स आणि फ्रॉड डिटेक्शनसाठी वेग अत्यंत महत्त्वाचा असतो.

डेटा सार्वभौमत्व आणि कायदे

'बाँको सेंट्राल एनजी फिलीपिनास' (Bangko Sentral ng Pilipinas) वित्तीय संस्थांना डेटा स्थानिक आणि ऑडिट करण्यायोग्य ठेवण्याची आवश्यकता मानते. अमेरिकेत आधारित मोठी मॉडेल्स अनेकदा या चाचण्यांमध्ये अपयशी ठरतात कारण डेटा देशाबाहेर जातो.

सेल्फ-होस्टेड SLMs तुमच्या डेटा सेंटरमध्येच राहतात. लॉग्सवर तुमचे नियंत्रण असते आणि सुरक्षाही तुमच्या हातात असते.

फिलीपिन्समधील तीन मुख्य वापराची उदाहरणे (Use Cases)

  • BPO ऑपरेशन्स: मेट्रो मनिला येथील एका BPO ने 8B मॉडेल वापरून प्रति संवाद खर्च $०.०१२ वरून $०.००१८ पर्यंत कमी केला.
  • बँकिंग: बँका टॅगॅलॉग (Tagalog) आणि सेबूआनो (Cebuano) मधील कागदपत्रे प्रक्रिया करण्यासाठी SLMs वापरतात. स्थानिक भाषेच्या अचूकतेमध्ये ही मॉडेल्स सामान्य मॉडेल्सपेक्षा २२% पर्यंत सरस ठरतात.
  • आरोग्यसेवा: फिलीपिन्स जनरल हॉस्पिटल दैनंदिन रुग्णांच्या ४०% चौकशी हाताळण्यासाठी ऑन-प्रिमाइसेस (on-premise) SLM वापरते.

आव्हान

SLMs चालवणे सोपे नाही. त्यांना फाईन-ट्यून आणि मॉनिटर करण्यासाठी MLOps तज्ज्ञांची गरज असते. सध्या, फिलीपिन्समधील १७ लाख IT-BPM कामगारांपैकी ५% पेक्षा कमी लोकांकडे हा अनुभव आहे.

तुम्हाला SLM ची गरज आहे की नाही हे कसे ठरवाल:

  • तुमचे काम मर्यादित आणि मोठ्या प्रमाणात (high-volume) आहे का? तर SLM वापरा.
  • तुमचा डेटा संवेदनशील किंवा नियमावलीनुसार (regulated) आहे का? तर SLM वापरा.
  • तुमच्याकडे MLOps टीम आहे का? नसेल तर, सध्या API चा वापर करा.

फिलीपिन्समधील AI चे भविष्य मोठी मॉडेल्स नसून, लहान, वेगवान आणि स्थानिक पातळीवर नियंत्रित मॉडेल्समध्ये आहे.

स्रोत: https://dev.to/yanoai/why-philippine-enterprises-are-quietly-switching-to-small-language-models-4hek

वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi