Makampuni yanapanua miundombinu ya AI kwa kasi kubwa, lakini "pengo la uwezo wa kompyuta" (compute gap) linalozidi kuwa kubwa linatokea kati ya matumizi ya mtaji na usimamizi wa kiutendaji. Wakati mashirika yakiharakisha kupata vifaa (hardware), yanagundua kuwa uwezo wao wa kupima uchumi wa kitengo (unit economics) na matumizi ya GPU hauwezi kuendana na kasi ya uwekezaji.

Pengo la Uwezo wa Kompyuta: Uwekezaji wa Haraka dhidi ya Uono Mdogo

Utafiti wa VentureBeat Pulse Research wa makampuni 107 unaonyesha upungufu mkubwa katika mzunguko wa maisha ya AI. Makampuni yanapakia mtaji kwenye miundombinu lakini yanapungukiwa na telemetri ya kuidhibiti. Nia ya matumizi inazidi kupanda kwa kasi, lakini ustadi wa uzalishaji unabaki kuwa mdogo; ni 21% tu ya makampuni yaliyofanyiwa utafiti yanayotumia AI katika uzalishaji kwa kiwango kikubwa.

Dalili muhimu zaidi ni kutofanya kazi kwa ufanisi. Asilimia themanini na tatu ya makampuni yanaripoti matumizi ya GPU katika kiwango cha 50% au chini ya hapo. Hali mbaya zaidi, chini ya nusu (44%) wanaweza kufuatilia kwa ukamilifu gharama halisi za uwezo wa kompyuta wa AI yao. Kwa hivyo, uwekezaji mkubwa na wa haraka unaendelea bila uono unaohitajika ili kuongoza uchumi wa muda mrefu.

Mabadiliko ya Miundombinu ya Wauzaji na Mabadiliko Makubwa ya Wateja

Hyperscalers za kimapokeo na API za mifano (models) zinatawala mfumo huo. Google Cloud inaongoza kwa matumizi ya 48%, ikifuatiwa na Microsoft Azure (29%), AWS (22%) na Oracle Cloud (22%). Matumizi ya mifano (models) yamejikita kwenye Gemini (41%) na OpenAI (40%). Wingu maalum za AI kama vile CoreWeave, Lambda na Together zinamiliki chini ya 2% ya soko.

Kutokuwa na utulivu ni juu. Asilimia sitini na nne ya makampuni yanapanga kubadilisha au kuongeza mtoa huduma wa miundombinu ndani ya miezi kumi na miwili, na 38% yanapanga kufanya hivyo ndani ya robo ijayo. Ushirikiano na mifumo iliyopo unachochea 41% ya maamuzi hayo, wakati gharama kamili ya umiliki (TCO) inachukua 35%. Ni 8% tu wanaotaja bei za token kama sababu kuu.

Mpaka Mpya: Wingu Maalum na Upana wa Kumbukumbu (Memory Bandwidth)

Makampuni yanayovuka hatua ya majaribio yanatazama wingu maalum za AI. Asilimia arobaini na tano yanapanga kutathmini watoa huduma kama hao katika mwaka ujao—eneo kubwa zaidi lililopangwa la tathmini.

Kizuizi kipya cha kiufundi kinatokea: upana wa kumbukumbu (memory bandwidth), na si uwezo wa GPU pekee, ndio utakaoweka kikomo cha inference kwa kiwango kikubwa. Takriban 20% tu ya makampuni yanatambua kizuizi hiki au kuchukua hatua za kukitatua. Kwa watengenezaji na CTOs, kumudu upana wa kumbukumbu kutatofautisha inference inayoweza kupanuka na gharama zinazozidi udhibiti.

Mambo Muhimu ya Kuzingatia

  • Kutofanya kazi kwa ufanisi ni hali ya kawaida: 83% ya makampuni yanatumia GPU katika kiwango cha ≤ 50%; chini ya nusu zinaweza kufuatilia kwa usahihi matumizi ya uwezo wa kompyuta.
  • Mabadiliko ya wateja ni makubwa: 64% yanapanga kubadilisha au kuongeza mtoa huduma ndani ya mwaka mmoja, wakizingatia ushirikiano (41%) na TCO (35%).
  • Mabadiliko kuelekea utaalamu: 45% watatathmini wingu maalum za AI ili kuziba pengo la uwezo wa kompyuta.
  • Upana wa kumbukumbu unakaribia: Takriban 20% ya makampuni yanatambua au kushughulikia kizuizi hiki kinachojitokeza.

Makala

Utafiti wa VentureBeat Pulse Research wa makampuni 107 unaonyesha kuwa 83% yanatumia GPU katika uwezo wa nusu au chini ya hapo, wakati 44% tu zinaweza kubainisha gharama kamili ya kila saa ya uwezo wa kompyuta. Kutokuendana huku kunawashawishi 64% ya washiriki kupanga kubadilisha au kuongeza mtoa huduma wa miundombinu ndani ya mwaka ujao.

Kwa nini "pengo la uwezo wa kompyuta" ni muhimu sasa

Takwimu kuu zinaonyesha picha ya wazi: matumizi ya AI yanapanda, lakini ustadi wa uzalishaji unabaki nyuma. Ni 21% tu ya makampuni yanayosema wanatumia AI kwa kiwango kikubwa katika uzalishaji, ikimaanisha uwekezaji mwingi upo katika maabara, mifano ya uthibitisho (proof-of-concepts), au vifaa visivyotumika. Matumizi madogo ya GPU yanatafsiriwa moja kwa moja kuwa upotevu wa mtaji—vifaa vilivyojazwa nusu bado vinatumia umeme, vinahitaji ubaridi, na vinachukua nafasi kwenye rack. Wakati chini ya nusu ya mashirika yanapoweza kufuatilia gharama kwa kila GPU, upangaji wa bajeti unakuwa ni kubahatisha, na CFOs wanakabiliwa na "sanduku jeusi" (black box) ambalo linaweza kulipua bajeti ya teknolojia ya mwaka mzima.

Jinsi tulivyofika hapa

Haraka ilianza wakati hyperscalers walipoanzisha mifumo maalum ya AI na API za model-as-a-service. Google Cloud sasa inahifadhi 48% ya kazi zilizofanyiwa utafiti, ikifuatiwa na Microsoft Azure (29%), AWS (22%) na Oracle Cloud (22%). Matumizi ya mifano (models) yanaakisi mgawanyo huo, huku Gemini na OpenAI kila mmoja yakichukua takriban 40% ya matumizi. Kivutio kilikuwa wazi: wingu linaloaminika, GPU zilizotayarishwa kutumika, na mfumo wa kulipia unachotumia unaahidi gharama zinazoonekana wazi.

Utafiti huo unafunua gharama iliyofichika. Changamoto za ushirikiano (integration) zinatawala uamuzi wa kuhama: 41% wanataja ugumu wa kuunganisha mfumo wa mtoa huduma kwenye mifumo iliyopo, wakati 35% wanaashiria gharama kamili ya umiliki. Ni 8% tu wanaosema bei za token zinawafanya waondoke, ikionyesha kuwa bei ghafi ni muhimu kidogo kuliko uoanishaji wa mfumo (ecosystem fit).

Hatari kwa wauzaji na wanunuzi

Kwa wingu tatu kubwa, umiliki mkubwa wa soko unatoa nguvu, lakini nia ya mabadiliko ya wateja inaashiria mmomonyoko wa nguvu hiyo.

Wanunuzi wanakabiliwa na hatari mbili. Kwanza, kuendelea kwa matumizi madogo huongeza gharama kwa kila inference au kazi ya mafunzo, jambo linalodhoofisha msingi wa kibiashara wa AI. Pili, ukosefu wa uwazi wa gharama huzuia mipango ya kimkakati; bila uchumi wa kitengo uliowazi, ni vigumu kuhalalisha uwekezaji zaidi au kuweka bei kwa bidhaa zilizoimarishwa na AI.

Kuibuka kwa huduma za wingu maalum za AI

Huduma za wingu maalum za AI—CoreWeave, Lambda na Together—kwa sasa zinamiliki chini ya 2% ya soko. Asilimia arobaini na tano ya mashirika yanasema yatathmini watoa huduma hawa wa kipekee katika mwaka ujao, jambo linalofanya hili kuwa eneo kubwa zaidi lililopangwa la tathmini ya watoa huduma. Pendekezo lao la thamani linategemea uunganishaji thabiti zaidi na mifumo ya zana za AI, uandishi wa bili wenye undani zaidi, na vifaa vilivyorekebishwa kwa ajili ya kazi za AI, ambavyo vinaweza kuinua matumizi ya GPU juu ya kiwango cha 50% kinachokabili mashirika mengi leo.

Upungufu wa kiufundi: upana wa kumbukumbu (memory bandwidth)

Mazungumzo ya vifaa yanabadilika. Kadiri kazi za inference zinavyoongezeka, upana wa kumbukumbu—jinsi data inavyosogea kwa haraka ndani na nje ya GPU—unakuwa kizuizi, ukizidi nguvu ghafi ya uchakataji. Hata hivyo, ni takriban 20% tu ya makampuni yaliyofanyiwa utafiti yanayotambua kizuizi hiki au kuchukua hatua kukishughulikia. Kupuuza upana wa kumbukumbu kunaweza kumaanisha kuwa hata GPU inayotumika kikamilifu haiwezi kutoa kiwango kinachohitajika cha upitishaji, jambo linalopelekea kuongezeka kwa idadi ya mifumo (instances) na gharama kubwa zaidi.

Upande wa pili: watoa huduma wakubwa (hyperscalers) bado wanatawala

Ingekuwa mapema mno kutangaza kuwa enzi ya hyperscalers imeisha. Ukubwa wao, ueneaaji wa kimataifa, na mikataba iliyopo ya mashirika bado inawafanya kuwa chaguo la kawaida kwa wengi. Utafiti unaonyesha kuwa sehemu kubwa ya kazi bado zipo kwenye majukwaa haya, na kwa mashirika yenye mbinu za wingu-nyingi (multi-cloud) zilizojikita, hali ya kutobadilika inaweza kuwa kubwa kuliko mvuto wa matumizi ya juu zaidi. Aidha, sehemu ndogo ya soko ya mawingu maalum inaashiria kuwa nia ni kubwa lakini uhamiaji utakuwa wa hatua kwa hatua.

Nini cha kufuatilia baadaye

  • Vikwazo vya upana wa kumbukumbu (memory bandwidth): Kadiri kazi za inference zinavyoongezeka, upana wa kumbukumbu unaweza kuwa kizuizi muhimu, ukichochea uteuzi wa vifaa na maamuzi ya usanifu.

Mambo ya kuzingatia

  • Ufanisi mdogo ni hali ya kawaida: 83% ya mashirika hutumia GPU kwa ≤ 50% ya uwezo; ni 44% tu zinazoweza kufuatilia kwa usahihi matumizi ya uchakataji.
  • Mabadiliko ya watoa huduma ni makubwa: 64% wanapanga kubadilisha au kuongeza mtoa huduma wa miundombinu ndani ya mwaka mmoja, wakichochewa na uunganishaji (41%) na TCO (35%).
  • Huduma za wingu maalum za AI zinachipuka: 45% watatathmini mawingu ya AI ya kipekee katika miezi kumi na miwili ijayo, wakitafuta kuziba pengo la uchakataji.
  • Upana wa kumbukumbu ni kizuizi kinachokaribia: Takriban 20% ya makampuni yanatambua au yanashughulikia kizuizi hili linalojitokeza.

Pengo kati ya matumizi ya AI na uwazi wa kiuchumi si jambo la kando tena; linabadilisha mbinu za ununuzi na kuchochea uhamiaji kuelekea kwa watoa huduma wanaoweza kuthibitisha kuwa kila dola inafanya kazi kwa ufanisi zaidi.