Ripoti ya Vercel ya mwezi Juni kuhusu sehemu ya tokeni inaonyesha kuwa mifano ya open-weight inashughulikia 29% ya tokeni za lango (gateway), ikiwa imepanda kutoka 11% mwezi Aprili, huku DeepSeek pekee ikichangia 22.6% ya kiasi hicho. Ongezeko hili linaashiria mabadiliko ya haraka: watengenezaji wanaacha kutumia mfano mmoja "bora" na badala yake wanachukulia mifano ya AI kama miundombinu inayoweza kuelekezwa (routable infrastructure).

Kwa nini watengenezaji wanachukulia mifano kama miundombinu

Mifano ya bei rahisi ya open-weight—mingi kutoka kwa watoa huduma wa China—gharama yake ni sehemu ndogo sana ya ofa za premium kama Anthropic. Kwa kazi za kawaida kama uchimbaji wa kodi (code extraction), kusafisha maandishi, au utafutaji rahisi wa data, mfano unaogharimu senti badala ya dola unaweza kuwa wa kuvutia zaidi, hata kama una usahihi wa chini kwa asilimia chache.

Matokeo yake ni mfumo mpya wa usanifu (design pattern). Programu kwanza hutuma ombi kwa mfano wa gharama nafuu kwa ajili ya sehemu "isiyo na msisimko" ya kazi. Ikiwa matokeo yatapita ukaguzi rahisi wa ubora, mchakato unaendelea; ikiwa sivyo, mfano wenye bei ya juu huitwa kwa ajili ya mapitio ya pili au uamuzi wa mwisho. Mantiki ya uelekezaji (routing logic) inakuwa sehemu muhimu, si uchaguzi wa mfano mmoja.

Takwimu zinazungumza nini

Takwimu za Vercel, zinazotokana na lango lake linalounganisha watoa huduma mbalimbali wa AI, zinaonyesha mifano ya open-weight ikihama kutoka pembezoni kuelekea kwenye mtiririko mkuu (mainstream). Mwezi Aprili, walichangia sehemu moja ya kumi tu ya tokeni zote; kufikia Juni, walikuwa karibu na sehemu moja ya tatu. DeepSeek, mfano wa China, ulichangia zaidi ya sehemu moja ya tano ya kiasi cha tokeni peke yake.

Mifano ya hali ya juu bado inatawala matumizi. Anthropic, kwa mfano, inaendelea kuchukua sehemu kubwa ya matumizi ya fedha kwa sababu bei yake kwa kila tokeni ni ya juu. Hesabu ni rahisi: mifano ya bei rahisi inashinda kazi zenye kiasi kikubwa lakini faida ndogo, wakati mifano ya gharama kubwa inabaki na kazi zenye faida kubwa na athari kubwa.

Athari kwa mawakala wa AI (AI agents)

Mwakala wa AI kwa kawaida hufanya mfululizo wa hatua: upangaji, upatikanaji wa data, uendeshaji wa zana, na uboreshaji wa matokeo. Wakati kila hatua inaweza kupewa mfano wenye gharama nafuu zaidi, gharama ya uendeshaji kwa ujumla hushuka kwa kiasi kikubwa.

  • Upatikanaji na uchimbaji wa data mara nyingi unahitaji tu uelewa wa msingi wa lugha, kazi ambayo mifano ya bei rahisi inafanya vizuri sana.
  • Uamuzi wa mwisho—sehemu inayofanya uamuzi ikiwa jibu linakubalika—inabaki kuwa eneo la mifano ya premium ambayo ina uaminifu wa juu zaidi.

Mbinu hii ya tabaka inawawezesha watengenezaji kuendesha kazi kubwa zaidi bila kutumia bajeti kubwa. Pia inalazimisha mabadiliko kutoka "chagua mfano bora" kwenda "pima mafanikio kwa kila hatua na uelekeze kulingana na matokeo."

Riski na mipaka

Uchumi huu unavutia, lakini mabadiliko haya hayana vikwazo.

  • Uzingatiaji wa sheria (Compliance): Baadhi ya maeneo ya kisheria yana sheria kali za kushughulikia data ambazo zinaweza kuzuia matumizi ya mifano inayohifadhiwa nje ya nchi.
  • Ugumu wa uendeshaji (Hosting complexity): Mifano mikubwa ya premium ni vigumu kuiendesha ndani ya shirika, hivyo mashirika lazima yategemee API za nje, jambo ambalo linaweza kuongeza ucheleweshaji (latency) na wasiwasi wa kutegemea mtoa huduma mmoja (vendor-lock).

Kwa sababu ya sababu hizi, mifano ya bei rahisi ina uwezekano mdogo wa kuchukua nafasi ya mifano ya premium kikamilifu. Badala yake, inakuwa chaguo la kawaida kwa kazi za kila siku, wakati mifano ya premium inabaki katika "tabaka la uamuzi" ambapo gharama yake kubwa inahalalika.

Nini cha kufuatilia baadaye

  • Zana za uelekezaji (Tooling for routing): Kadiri tabaka la uelekezaji linavyokuwa muhimu zaidi, tunaweza kutarajia wimbi la SDKs na majukwaa yanayofanya uamuzi wa mfano kiotomatiki kulingana na ucheleweshaji, gharama, na viwango vya uaminifu (confidence thresholds).

Watengenezaji watakaoanza kupima mafanikio katika kiwango cha kazi, kufuatilia majaribio ya marudio (retries), na kutenganisha wazi kati ya "kiasi" na "uamuzi" watakuwa katika nafasi nzuri zaidi ya kufaidika na mtazamo mpya wa miundombinu unaochipuka.

Funzo kuu: Teknolojia ya AI inabadilika kutoka chaguo la mfano mmoja kuelekea tatizo la uelekezaji (routing problem), ambapo mifano ya open-weight ya bei rahisi inashughulikia sehemu kubwa ya kazi na mifano ya premium inahifadhiwa kwa maamuzi yenye athari kubwa. Kufanya ufundi wa uelekezaji huo utakuwa ukomo mpya wa ushindani kwa wabunifu wa AI.