Kwa nini Mashirika ya Pilipini Yanahamia kwenye Mifumo Midogo ya Lugha

Kufikia mwaka 2026, 78% ya kazi za AI za mashirika zitakuwa zinatumia mifumo yenye vigezo (parameters) chini ya bilioni 10. Huku ni ongezeko kubwa kutoka 31% mnamo 2024.

Biashara za Pilipini zinaacha kutumia mifumo mikubwa ya "frontier models". Badala yake, zinachagua Mifumo Midogo ya Lugha (Small Language Models - SLMs). Mabadiliko haya yanatatua matatizo matatu: gharama, kasi, na sheria za data.

Tofauti ya Gharama

Mifumo ya frontier inagharimu kati ya $0.50 na $15 kwa kila milioni ya tokeni. Kampuni ya kati ya BPO inaweza kutumia kiasi kikubwa cha fedha chenye tarakimu sita kila mwezi kwa ajili ya API calls hizi.

SLMs zinabadilisha hesabu hiyo. Mfumo wa 7B uliorekebishwa (fine-tuned) kwenye GPU moja unagharimu takriban $0.08 kwa kila milioni ya tokeni. Hiyo ni upunguzaji wa gharama kwa 85%.

Sababu ya Kasi

Mifumo mikubwa ya wingu (cloud models) huchukua milisekunde 800 hadi 2,000 kujibu. SLMs hujibu ndani ya milisekunde 50 hadi 200 kwenye vifaa vya ndani (local hardware). Kwa ajili ya mawakala wa sauti na utambuzi wa udanganyifu, kasi ni kila kitu.

Uhuru wa Data na Sheria

Bangko Sentral ng Pilipinas inazitaka taasisi za kifedha kuhifadhi data ndani ya nchi na zinazoweza kukaguliwa. Mifumo mikubwa inayotolewa Marekani mara nyingi hushindwa majaribio haya kwa sababu data hutoka nje ya nchi.

SLMs zinazojiendesha (self-hosted) hubaki kwenye kituo chako cha data. Unamiliki kumbukumbu (logs). Unadhibiti usalama.

Matumizi Makuu Matatu nchini Pilipini

  • Operesheni za BPO: Kampuni moja ya BPO huko Metro Manila ilipunguza gharama kutoka $0.012 hadi $0.0018 kwa kila mwingiliano kwa kutumia mfumo wa 8B.
  • Benki: Benki hutumia SLMs kuchakata nyaraka katika lugha za Tagalog na Cebuano. Mifumo hii inashinda mifumo ya jumla katika usahihi wa lugha za ndani kwa hadi 22%.
  • Huduma za Afya: Hospitali ya Philippine General Hospital inatumia SLM ya ndani (on-premise) kushughulikia 40% ya maswali ya kawaida ya wagonjwa.

Changamoto

SLMs si rahisi kuendesha. Zinahitaji wataalamu wa MLOps ili kuzirekebisha (fine-tune) na kuzifuatilia. Kwa sasa, chini ya 5% ya wafanyakazi 1.7 milioni wa IT-BPM nchini Pilipini wana uzoefu huu.

Jinsi ya kuamua ikiwa unahitaji SLM:

  • Je, kazi yako ni mahususi na yenye wingi mkubwa? Tumia SLM.
  • Je, data yako ni nyeti au inasimamiwa na sheria? Tumia SLM.
  • Je, una timu ya MLOps? Kama huna, endelea kutumia API kwa sasa.

Mustakabali wa AI nchini Pilipini si mifumo mikubwa zaidi. Ni mifumo midogo, yenye kasi zaidi, na inayodhibitiwa ndani ya nchi.

Source: https://dev.to/yanoai/why-philippine-enterprises-are-quietly-switching-to-small-language-models-4hek

Optional learning community: https://t.me/GyaanSetuAi