Kwa Nini Nvidia Inakabiliwa na Mabadiliko ya Soko Katikati ya Mapinduzi ya AI

Utawala wa Nvidia katika mapinduzi ya AI unakabiliwa na changamoto ya kinyume: soko la compute ambalo yenyewe ilianzisha linaanza kufanya kazi dhidi ya thamani yake. Ingawa makadirio ya mapato bado ni thabiti, mabadiliko katika mienendo ya usambazaji yanahamishia uangalifu kutoka kwenye nguvu ya usindikaji (processing power) kwenda kwenye uwezo wa kumbukumbu (memory capacity).

Kutofautiana: Kushuka kwa Bei za Compute dhidi ya Kupanda kwa Gharama za DRAM

Nvidia imepitia marekebisho makubwa ya soko, huku bei yake ya hisa ikishuka kwa 15% kutoka kilele chake cha mwezi Mei. Inashangaza kwamba wawekezaji sasa wanaitathmini Nvidia kwa uangalifu zaidi kuliko kampuni ya wastani ya S&P 500 ikilinganishwa na faida zake zinazotarajiwa. Mabadiliko haya yanachochewa na mabadiliko ya msingi katika upangaji wa bei wa mahitaji muhimu ya AI.

Kulingana na data kutoka Ornn, bei ya soko (spot price) kwa saa moja ya matumizi ya Nvidia H100 GPU ilifikia kilele mwezi Mei kwa takriban $3.20 na tangu wakati huo imeanza kushuka kwa kasi. Kinyume chake, soko la kumbukumbu (memory) linapitia mwelekeo wa kinyume. Micron, kiongozi katika uzalishaji wa DRAM (Dynamic Random-Access Memory), thamani yake imetandamana karibu mara tatu huku sekta hiyo ikitambua kuwa kumbukumbu, na si usindikaji pekee, ndiyo kikwazo halisi cha vituo vya data vya kisasa.

Kuongezeka kwa Kikwazo cha Kumbukumbu

Wakati mafanikio ya Nvidia yamejengwa juu ya mafanikio makubwa ya kiteknolojia—kama vile jukwaa la programu la CUDA na uhandisi wa GPU tata sana—soko la kumbukumbu linaendeshwa na misingi tofauti ya kiuchumi. Ujenzi mkubwa wa vituo vya data vya AI umesababisha makadirio ya chini ya upana wa mawasiliano wa kumbukumbu (memory bandwidth) unaohitajika.

Mahitaji ya High-Bandwidth Memory (HBM) yanazidi usambazaji, hali inayowaruhusu watengenezaji wa kumbukumbu kuongeza bei mara kumi zaidi katika mwaka uliopita. Kama anavyobainisha mwanzilishi mwenza na CTO wa Ornn, Wayne Nelms, sekta hii inaona kuingia kwa wachezaji wengi katika nafasi ya accelerator, lakini karibu hakuna anayeingia katika nafasi ya utengenezaji wa DRAM. Hii inatengeneza kutokuwepo kwa usawa wa kimfumo: nguvu ya compute inakuwa bidhaa ya kawaida (commoditized), wakati kumbukumbu inabaki kuwa hitaji adimu lenye faida kubwa.

Silicon Maalum na Mwisho wa Monopolia

Kichocheo kikubwa nyuma ya kushuka kwa bei ya compute ni mwelekeo wa kuelekea uhuru wa silicon na makampuni makubwa ya teknolojia (Big Tech). Majitu kama Google, Amazon, Microsoft, na OpenAI yanazidi kutumia vichakatazi (processors) vyao wenyewe vilivyoundwa maalum.

Ingawa chips hizi za umiliki binafsi zinaweza zisilingane na utendaji wa hali ya juu wa mifano makuu ya Nvidia, ni "nzuri vya kutosha" kukidhi mahitaji ya mifumo mikubwa. Uanuwai huu wa mandhari ya vifaa (hardware) unashusha kwa ufanisi bei ya soko ya compute, ukipunguza uwezo wa Nvidia wa kupanga bei. Kadiri kampuni nyingi zinavyoingia katika soko la accelerator ili kupunguza utegemezi wao kwa Nvidia, "compute moat" (kinga ya compute) ambayo wakati huo ililinda faida za Nvidia inavukwa na silicon maalum ya ndani.

Athari kwa Mandhari Pana ya AI

Mabadiliko haya yanaashiria hatua ya kukomaa ya mzunguko wa miundombinu ya AI. "Uhaba wa dhahabu" (gold rush) wa awali ulijikita katika kupata GPU zenye nguvu zaidi zinazowezekana. Sasa tunaingia katika hatua ya uboreshaji (optimization), ambapo lengo linahamia kwenye ufanisi wa mwendo wa data—ambao unaongozwa na kumbukumbu—badala ya kasi ya hesabu pekee. Kwa watengenezaji (developers) na waanzilishi (founders), hii inamaanisha umuhimu wa kisanifu wa usimamizi wa kumbukumbu na ufanisi wa HBM huenda ukawa muhimu kama vile uchaguzi wa GPU.

Mambo Muhimu ya Kuzingatia

  • Ugeuzaji wa Compute kuwa Bidhaa ya Kawaida: Kuenea kwa silicon maalum kutoka kwa hyperscalers (Google, AWS, n.k.) kunashusha bei ya soko ya nguvu ya compute ya GPU.
  • Kumbukumbu kama Kikwazo Kipya: Mahitaji ya DRAM na High-Bandwidth Memory (HBM) yanazidi usambazaji, na kufanya makampuni ya kumbukumbu kama Micron kuwa wanufaika wapya wenye ukuaji mkubwa katika biashara ya AI.
  • Kutokuwepo kwa Usawa wa Kimfumo wa Soko: Tofauti na soko la GPU, ambalo linaona waingiliaji wapya kila mara, soko la kumbukumbu lina vizuizi vikubwa vya kuingia, hali inayohakikisha kuwa gharama za kumbukumbu zinabaki kuwa juu wakati bei za compute zinatulia.