AI ਬੂਮ ਦੇ ਵਿਚਕਾਰ Nvidia ਨੂੰ ਬਾਜ਼ਾਰ ਵਿੱਚ ਬਦਲਾਅ ਦਾ ਸਾਹਮਣਾ ਕਿਉਂ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ

AI ਕ੍ਰਾਂਤੀ ਵਿੱਚ Nvidia ਦਾ ਦਬਦਬਾ ਇੱਕ ਵਿਰੋਧਾਭਾਸ ਭਰਪੂਰ ਚੁਣੌਤੀ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਿਹਾ ਹੈ: ਉਹ ਕੰਪਿਊਟ ਮਾਰਕੀਟਪਲੇਸ ਜਿਸ ਦੀ ਉਸਨੇ ਸ਼ੁਰੂਆਤ ਕੀਤੀ ਸੀ, ਹੁਣ ਉਸਦੀ ਵੈਲਯੂਏਸ਼ਨ ਦੇ ਵਿਰੁੱਧ ਕੰਮ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਰਿਹਾ ਹੈ। ਹਾਲਾਂਕਿ ਮਾਲੀਆ ਅਨੁਮਾਨ ਮਜ਼ਬੂਤ ​​ਬਣੇ ਹੋਏ ਹਨ, ਸਪਲਾਈ ਡਾਇਨਾਮਿਕਸ ਵਿੱਚ ਬਦਲਾਅ ਪ੍ਰੋਸੈਸਿੰਗ ਪਾਵਰ ਤੋਂ ਹਟ ਕੇ ਮੈਮੋਰੀ ਸਮਰੱਥਾ ਵੱਲ ਧਿਆਨ ਖਿੱਚ ਰਿਹਾ ਹੈ।

ਅੰਤਰ: ਡਿੱਗਦੀਆਂ ਕੰਪਿਊਟ ਕੀਮਤਾਂ ਬਨਾਮ ਵਧਦੀਆਂ DRAM ਲਾਗਤਾਂ

Nvidia ਨੇ ਬਾਜ਼ਾਰ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਸੁਧਾਰ (correction) ਦੇਖਿਆ ਹੈ, ਜਿਸ ਵਿੱਚ ਇਸਦੀ ਸਟਾਕ ਕੀਮਤ ਮਈ ਦੇ ਉੱਚ ਸਿਖਰ ਤੋਂ 15% ਡਿੱਗ ਗਈ ਹੈ। ਦਿਲਚਸਪ ਗੱਲ ਇਹ ਹੈ ਕਿ ਨਿਵੇਸ਼ਕ ਹੁਣ ਆਪਣੇ ਅਨੁਮਾਨਿਤ ਮੁਨਾਫੇ ਦੇ ਮੁਕਾਬਲੇ ਇੱਕ ਔਸਤ S&P 500 ਕੰਪਨੀ ਨਾਲੋਂ Nvidia ਨੂੰ ਵਧੇਰੇ ਸਾਵਧਾਨੀ ਨਾਲ ਵੈਲਯੂ ਕਰ ਰਹੇ ਹਨ। ਇਹ ਬਦਲਾਅ AI ਦੀਆਂ ਜ਼ਰੂਰੀ ਚੀਜ਼ਾਂ ਦੀ ਕੀਮਤ ਪ੍ਰਣਾਲੀ ਵਿੱਚ ਇੱਕ ਮੌਲਿਕ ਤਬਦੀਲੀ ਕਾਰਨ ਹੋ ਰਿਹਾ ਹੈ।

Ornn ਦੇ ਅੰਕੜਿਆਂ ਅਨੁਸਾਰ, Nvidia H100 GPU 'ਤੇ ਇੱਕ ਘੰਟੇ ਦੇ ਸਮੇਂ ਦੀ ਸਪੌਟ ਕੀਮਤ (spot price) ਮਈ ਵਿੱਚ ਲਗਭਗ $3.20 ਦੇ ਉੱਚ ਸਿਖਰ 'ਤੇ ਸੀ ਅਤੇ ਉਦੋਂ ਤੋਂ ਇਸ ਵਿੱਚ ਲਗਾਤਾਰ ਗਿਰਾਵਟ ਆ ਰਹੀ ਹੈ। ਇਸਦੇ ਉਲਟ, ਮੈਮੋਰੀ ਬਾਜ਼ਾਰ ਵਿੱਚ ਵਿਰੋਧੀ ਰੁਝਾਨ ਦੇਖਿਆ ਜਾ ਰਿਹਾ ਹੈ। DRAM (Dynamic Random-Access Memory) ਉਤਪਾਦਨ ਵਿੱਚ ਮੋਹਾਨੀ (Micron), ਇੱਕ ਮੋਹਰੀ ਕੰਪਨੀ ਹੈ, ਜਿਸਦੀ ਕੀਮਤ ਲਗਭਗ ਤਿੰਨ ਗੁਣਾ ਹੋ ਗਈ ਹੈ ਕਿਉਂਕਿ ਉਦਯੋਗ ਨੂੰ ਅਹਿਸਾਸ ਹੋ ਰਿਹਾ ਹੈ ਕਿ ਆਧੁਨਿਕ ਡਾਟਾ ਸੈਂਟਰਾਂ ਲਈ ਸਿਰਫ਼ ਪ੍ਰੋਸੈਸਿੰਗ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਮੈਮੋਰੀ ਹੀ ਅਸਲ ਰੁਕਾਵਟ (bottleneck) ਹੈ।

ਮੈਮੋਰੀ ਬੋਟਲਨੇਕ (Memory Bottleneck) ਦਾ ਵਧਣਾ

ਜਿੱਥੇ Nvidia ਦੀ ਸਫਲਤਾ ਬਹੁਤ ਹੀ ਗੁੰਝਲਦਾਰ ਤਕਨੀਕੀ ਪ੍ਰਾਪਤੀਆਂ 'ਤੇ ਟਿਕੀ ਹੋਈ ਹੈ—ਜਿਵੇਂ ਕਿ CUDA ਪ੍ਰੋਗਰਾਮਿੰਗ ਪਲੇਟਫਾਰਮ ਅਤੇ ਬਹੁਤ ਹੀ ਗੁੰਝਲਦਾਰ GPUs ਦੀ ਇੰਜੀਨੀਅਰਿੰਗ—ਉੱਥੇ ਹੀ ਮੈਮੋਰੀ ਬਾਜ਼ਾਰ ਵੱਖਰੀ ਆਰਥਿਕਤਾ ਦੁਆਰਾ ਚਲਾਇਆ ਜਾ ਰਿਹਾ ਹੈ। AI ਡਾਟਾ ਸੈਂਟਰਾਂ ਦੇ ਵਿਸ਼ਾਲ ਨਿਰਮਾਣ ਕਾਰਨ ਲੋੜੀਂਦੀ ਮੈਮੋਰੀ ਬੈਂਡਵਿਡਥ ਦਾ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਘੱਟ ਅੰਦਾਜ਼ਾ ਲਗਾਇਆ ਗਿਆ ਹੈ।

High-Bandwidth Memory (HBM) ਦੀ ਮੰਗ ਸਪਲਾਈ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਮੈਮੋਰੀ ਨਿਰਮਾਤਾਵਾਂ ਨੂੰ ਪਿਛਲੇ ਇੱਕ ਸਾਲ ਵਿੱਚ ਕੀਮਤਾਂ ਨੂੰ ਦਸ ਗੁਣਾ ਵਧਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਮਿਲੀ ਹੈ। ਜਿਵੇਂ ਕਿ Ornn ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਅਤੇ CTO Wayne Nelms ਨੋਟ ਕਰਦੇ ਹਨ, ਉਦਯੋਗ ਵਿੱਚ ਐਕਸਲਰੇਟਰ (accelerator) ਖੇਤਰ ਵਿੱਚ ਖਿਡਾਰੀਆਂ ਦੀ ਭਾਰੀ ਆਮਦ ਦੇਖੀ ਜਾ ਰਹੀ ਹੈ, ਪਰ DRAM ਨਿਰਮਾਣ ਖੇਤਰ ਵਿੱਚ ਲਗਭਗ ਕੋਈ ਵੀ ਨਹੀਂ ਆ ਰਿਹਾ। ਇਹ ਇੱਕ ਸੰਰਚਨਾਤਮਕ ਅਸੰਤੁਲਨ ਪੈਦਾ ਕਰਦਾ ਹੈ: ਕੰਪਿਊਟ ਪਾਵਰ ਵਧੇਰੇ ਆਮ (commoditized) ਹੁੰਦੀ ਜਾ ਰਹੀ ਹੈ, ਜਦੋਂ ਕਿ ਮੈਮੋਰੀ ਇੱਕ ਦੁਰਲੱਭ, ਉੱਚ-ਮਾਰਜਿਨ ਲੋੜ ਬਣੀ ਹੋਈ ਹੈ।

ਕਸਟਮ ਸਿਲੀਕਾਨ ਅਤੇ ਇਕੱਤਰੀਕਰਨ (Monopolies) ਦਾ ਅੰਤ

ਕੰਪਿਊਟ ਦੀ ਡਿੱਗਦੀ ਕੀਮਤ ਦੇ ਪਿੱਛੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਕਾਰਨ Big Tech ਦੁਆਰਾ ਸਿਲੀਕਾਨ ਸੁਤੰਤਰਤਾ ਵੱਲ ਵਧਣਾ ਹੈ। Google, Amazon, Microsoft, ਅਤੇ OpenAI ਵਰਗੇ ਦਿੱਗਜ ਕੰਪਨੀਆਂ ਵੱਲੋਂ ਲਗਾਤਾਰ ਆਪਣੇ ਖੁਦ ਦੇ ਕਸਟਮ-ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਪ੍ਰੋਸੈਸਰ ਤੈਨਾਤ ਕੀਤੇ ਜਾ ਰਹੇ ਹਨ।

ਹਾਲਾਂਕਿ ਇਹ ਪ੍ਰੋਪਰਾਈਟਰੀ ਚਿੱਪਸ Nvidia ਦੇ ਫਲੈਗਸ਼ਿਪ ਮਾਡਲਾਂ ਦੀ ਸ਼ੁੱਧ ਪ੍ਰਦਰਸ਼ਨ (raw performance) ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾ ਸਕਦੀਆਂ, ਪਰ ਉਹ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਤੈਨਾਤੀ ਦੀਆਂ ਲੋੜਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ "ਕਾਫ਼ੀ ਚੰਗੀਆਂ" ਹਨ। ਹਾਰਡਵੇਅਰ ਲੈਂਡਸਕੇਪ ਦਾ ਇਹ ਵਿਭਿੰਨਤਾ ਕੰਪਿਊਟ ਦੀ ਸਪੌਟ ਕੀਮਤ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਘਟਾ ਰਹੀ ਹੈ, ਜਿਸ ਨਾਲ Nvidia ਦੀ ਕੀਮਤ ਨਿਰਧਾਰਤ ਕਰਨ ਦੀ ਸ਼ਕਤੀ ਘਟ ਰਹੀ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ ਵਧੇਰੇ ਕੰਪਨੀਆਂ Nvidia 'ਤੇ ਆਪਣੀ ਨਿਰਭਰਤਾ ਘਟਾਉਣ ਲਈ ਐਕਸਲਰੇਟਰ ਮਾਰਕੀਟ ਵਿੱਚ ਦਾਖਲ ਹੋ ਰਹੀਆਂ ਹਨ, ਉਹ "ਕੰਪਿਊਟ ਮੋਟ" (compute moat) ਜੋ ਕਦੇ Nvidia ਦੇ ਮਾਰਜਿਨ ਦੀ ਰੱਖਿਆ ਕਰਦਾ ਸੀ, ਹੁਣ ਵਿਸ਼ੇਸ਼, ਇਨ-ਹਾਊਸ ਸਿਲੀਕਾਨ ਦੁਆਰਾ ਪੂਰਾ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ।

ਵਿਆਪਕ AI ਲੈਂਡਸਕੇਪ 'ਤੇ ਪ੍ਰਭਾਵ

ਇਹ ਬਦਲਾਅ AI ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਚੱਕਰ ਦੇ ਪਰਿਪੱਕ ਹੋਣ ਦੇ ਪੜਾਅ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ। ਸ਼ੁਰੂਆਤੀ "ਗੋਲਡ ਰਸ਼" (gold rush) ਜਿੰਨਾ ਸੰਭਵ ਹੋ ਸਕੇ ਉੱਨਾ ਸ਼ਕਤੀਸ਼ਾਲੀ GPU ਪ੍ਰਾਪਤ ਕਰਨ 'ਤੇ ਕੇਂਦਰਿਤ ਸੀ। ਅਸੀਂ ਹੁਣ ਅਨੁਕੂਲਨ (optimization) ਦੇ ਪੜਾਅ ਵਿੱਚ ਪ੍ਰਵੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ, ਜਿੱਥੇ ਧਿਆਨ ਸਿਰਫ਼ ਗਣਨਾ ਦੀ ਸ਼ੁੱਧ ਗਤੀ ਦੀ ਬਜਾਏ ਡਾਟਾ ਦੀ ਹਰਕਤ ਦੀ ਕੁਸ਼ਲਤਾ ਵੱਲ ਜਾ ਰਿਹਾ ਹੈ—ਜਿਸ ਨੂੰ ਮੈਮੋਰੀ ਦੁਆਰਾ ਨਿਰਧਾਰਤ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਸੰਸਥਾਪਕਾਂ ਲਈ, ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਮੈਮੋਰੀ ਪ੍ਰਬੰਧਨ ਅਤੇ HBM ਕੁਸ਼ਲਤਾ ਦੀ ਆਰਕੀਟੈਕਚਰਲ ਮਹੱਤਤਾ ਸ਼ਾਇਦ GPU ਦੀ ਚੋਣ ਵਾਂਗ ਹੀ ਮਹੱਤਵਪੂਰਨ ਹੋ ਜਾਵੇਗੀ।

ਮੁੱਖ ਨੁਕਤੇ

• ਕੰਪਿਊਟ ਕਮੋਡਿਟਾਈਜ਼ੇਸ਼ਨ (Compute Commoditization): ਹਾਈਪਰਸਕੇਲਰਜ਼ (Google, AWS, ਆਦਿ) ਤੋਂ ਕਸਟਮ ਸਿਲੀਕਾਨ ਦਾ ਵਧਣਾ GPU ਕੰਪਿਊਟ ਪਾਵਰ ਦੀ ਸਪੌਟ ਕੀਮਤ ਨੂੰ ਘਟਾ ਰਿਹਾ ਹੈ।
• ਨਵੀਂ ਰੁਕਾਵਟ ਵਜੋਂ ਮੈਮੋਰੀ: DRAM ਅਤੇ High-Bandwidth Memory (HBM) ਦੀ ਮੰਗ ਸਪਲਾਈ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਹੈ, ਜਿਸ ਨਾਲ Micron ਵਰਗੀਆਂ ਮੈਮੋਰੀ ਕੰਪਨੀਆਂ AI ਵਪਾਰ ਦੇ ਨਵੇਂ ਉੱਚ-ਵਿਕਾਸ ਪ੍ਰਾਪਤਕਰਤਾ ਬਣ ਰਹੀਆਂ ਹਨ।
• ਸੰਰਚਨਾਤਮਕ ਬਾਜ਼ਾਰ ਅਸੰਤੁਲਨ: GPU ਮਾਰਕੀਟ ਦੇ ਉਲਟ, ਜਿੱਥੇ ਲਗਾਤਾਰ ਨਵੇਂ ਪ੍ਰਵੇਸ਼ਕ ਦੇਖੇ ਜਾਂਦੇ ਹਨ, ਮੈਮੋਰੀ ਮਾਰਕੀਟ ਵਿੱਚ ਪ੍ਰਵੇਸ਼ ਦੀਆਂ ਰੁਕਾਵਟਾਂ ਉੱਚੀਆਂ ਹਨ, ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੀਆਂ ਹਨ ਕਿ ਕੰਪਿਊਟ ਕੀਮਤਾਂ ਸਥਿਰ ਰਹਿੰਦੀਆਂ ਹਨ ਜਦੋਂ ਕਿ ਮੈਮੋਰੀ ਦੀਆਂ ਲਾਗਤਾਂ ਉੱਚੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ।