מדוע Nvidia מתמודדת עם תזוזה בשוק בעיצומו של פריצת ה-AI

הדומיננטיות של Nvidia במהפכת ה-AI מתמודדת עם אתגר פרדוקסלי: שוק המחשוב (compute) שהיא עצמה הייתה חלוצה בו, מתחיל לפעול נגד הערכת השווי שלה. בעוד שתחזיות ההכנסות נותרות חזקות, שינוי בדינמיקת ההיצע מעביר את מרכז תשומת הלב מכוח עיבוד לקיבולת זיכרון.

הדיברגנציה: ירידה במחירי המחשוב מול עלייה בעלויות ה-DRAM

Nvidia חוותה תיקון שוק בולט, כאשר מחיר המניה שלה ירד ב-15% משיא חודש מאי. באופן מעניין, המשקיעים מעריכים כעת את Nvidia בצורה שמרנית יותר מחברה ממוצעת במדד ה-S&P 500 ביחס לרווחיה הצפויים. תזוזה זו מונעת משינוי יסודי בתמחור מרכיבי הליבה של ה-AI.

על פי נתונים מ-Ornn, מחיר ה-spot עבור שעת עבודה על GPU מסוג Nvidia H100 הגיע לשיא במאי בכ-3.20 דולר, ומאז נכנס לירידה מתמדת. לעומת זאת, שוק הזיכרון חווה מסלול הפוך. Micron, מובילה בייצור DRAM (Dynamic Random-Access Memory), כמעט שילשה את ערכה ככל שהתעשייה מבינה שהזיכרון, ולא רק העיבוד, הוא צוואר הבקבוק האמיתי של מרכזי הנתונים המודרניים.

עליית צוואר הבקבוק של הזיכרון

בעוד שההצלחה של Nvidia מבוססת על הישגים טכנולוגיים מורכבים ביותר — כמו פלטפורמת התכנות CUDA והנדסה של GPUs מורכבים להפליא — שוק הזיכרון מונע על ידי כלכלה שונה. ההקמה המסיבית של מרכזי נתונים ל-AI הובילה להערכת חסר נרחבת של רוחב פס הזיכרון הנדרש.

הביקוש לזיכרון ברוחב פס גבוה (HBM) עולה על ההיצע, מה שמאפשר ליצרניות הזיכרון להעלות את המחירים פי עשרה במהלך השנה האחרונה. כפי שמציין מייסד השותף ו-CTO של Ornn, ויין נלמס (Wayne Nelms), התעשייה רואה זרם אדיר של שחקנים בתחום המאיצים (accelerators), אך כמעט אף אחד לא נכנס לתחום ייצור ה-DRAM. זה יוצר חוסר איזון מבני: כוח המחשוב הופך ליותר ויותר מוצר בסיסי (commodity), בעוד שהזיכרון נותר צורך נדיר ובעל שולי רווח גבוהים.

שבבים מותאמים אישית וסוף המונופולים

גורם משמעותי מאחורי הירידה במחירי המחשוב הוא המעבר לעצמאות שבבית (silicon independence) מצד ענקיות הטכנולוגיה. ענקיות כמו Google, Amazon, Microsoft ו-OpenAI פורסות יותר ויותר מעבדים משלהן שתוכננו בהתאמה אישית.

למרות ששבבים קנייניים אלו עשויים שלא להשתוות לביצועים הגולמיים של דגמי הדגל של Nvidia, הם "טובים מספיק" כדי לענות על הצרכים של פריסות בקנה מידה גדול. גיוון זה בנוף החומרה מוריד בפועל את מחיר ה-spot של המחשוב, ומפחית את כוח התמחור של Nvidia. ככל שיותר חברות נכנסות לשוק המאיצים כדי להפחית את התלות ב-Nvidia, ה"חפיר" (moat) של המחשוב שבעבר הגן על שולי הרווח של Nvidia נסדק על ידי שבבים ייעודיים המיוצרים בתוך החברה.

ההשפעה על נוף ה-AI הרחב יותר

תזוזה זו מסמנת שלב של בשלות במחזור התשתית של ה-AI. "הבהלה לזהב" הראשונית התמקדה ברכישת ה-GPUs החזקים ביותר האפשריים. כעת אנו נכנסים לשלב של אופטימיזציה, שבו המוקד עובר ליעילות של תנועת הנתונים — הנשלטת על ידי הזיכרון — ולא רק למהירות החישוב הגולמית. עבור מפתחים ומייסדים, המשמעות היא שהחשיבות הארכיטקטונית של ניהול זיכרון ויעילות HBM תהפוך ככל הנראה לקריטית בדיוק כמו בחירת ה-GPU.

נקודות מפתח

• הפיכת המחשוב למוצר בסיסי (Commoditization): התפשטות השבבים המותאמים אישית של ספקיות הענן הגדולות (Google, AWS וכו') מורידה את מחיר ה-spot של כוח המחשוב של ה-GPU.
• הזיכרון כצוואר הבקבוק החדש: הביקוש ל-DRAM ולזיכרון ברוחב פס גבוה (HBM) עולה על ההיצע, מה שהופך חברות זיכרון כמו Micron לנהנות החדשות מצמיחה גבוהה במסחר בתחום ה-AI.
• חוסר איזון מבני בשוק: בניגוד לשוק ה-GPU, שרואה כניסה מתמדת של שחקנים חדשים, לשוק הזיכרון יש חסמי כניסה גבוהים, מה שמבטיח שעלויות הזיכרון יישארו גבוהות בזמן שמחירי המחשוב מתייצבים.