AI 붐 속에서 Nvidia가 시장 변화에 직면한 이유
Nvidia의 AI 혁명 주도권은 역설적인 도전에 직면해 있습니다. Nvidia가 개척한 바로 그 컴퓨팅 시장이 이제는 기업 가치에 부정적인 영향을 미치기 시작했기 때문입니다. 매출 전망은 여전히 강력하지만, 공급 역학의 변화로 인해 관심의 초점이 연산 능력에서 메모리 용량으로 이동하고 있습니다.
격차: 하락하는 컴퓨팅 가격 vs 상승하는 DRAM 비용
Nvidia는 지난 5월 정점 대비 주가가 15% 하락하며 눈에 띄는 시장 조정을 겪었습니다. 흥미롭게도 투자자들은 현재 Nvidia의 예상 이익 대비 가치를 S&P 500 평균 기업보다 더 보수적으로 평가하고 있습니다. 이러한 변화는 AI 필수 요소들의 가격 책정 방식에 나타난 근본적인 변화에 기인합니다.
Ornn의 데이터에 따르면, Nvidia H100 GPU의 시간당 현물 가격은 5월에 약 3.20달러로 정점을 찍은 이후 꾸준히 하락하고 있습니다. 반대로 메모리 시장은 정반대의 궤적을 보이고 있습니다. DRAM(Dynamic Random-Access Memory) 생산의 선두 주자인 마이크론(Micron)은, 현대 데이터 센터의 진정한 병목 현상이 단순한 연산이 아닌 메모리라는 사실이 업계에 각인됨에 따라 기업 가치가 거의 3배 가까이 상승했습니다.
메모리 병목 현상의 부상
Nvidia의 성공은 CUDA 프로그래밍 플랫폼과 매우 복잡한 GPU 설계와 같은 고도의 기술적 성취를 바탕으로 구축되었지만, 메모리 시장은 다른 경제적 논리에 의해 움직입니다. AI 데이터 센터의 대규모 구축은 필요한 메모리 대역폭에 대한 광범위한 과소평가를 초래했습니다.
고대역폭 메모리(HBM)에 대한 수요가 공급을 앞지르면서, 메모리 제조업체들은 지난 1년 동안 가격을 10배 가까이 인상할 수 있었습니다. Ornn의 공동 창립자이자 CTO인 웨인 넬름스(Wayne Nelms)가 언급했듯이, 가속기 분야에는 수많은 플레이어가 유입되고 있지만 DRAM 제조 분야에 진입하는 기업은 거의 없습니다. 이는 구조적 불균형을 초래합니다. 즉, 컴퓨팅 파워는 점점 범용화(commoditized)되는 반면, 메모리는 희소하고 높은 마진을 보장하는 필수 요소로 남게 됩니다.
맞춤형 실리콘과 독점의 종말
컴퓨팅 가격 하락의 주요 원인 중 하나는 빅테크 기업들의 실리콘 독립 움직임입니다. 구글, 아마존, 마이크로소프트, OpenAI와 같은 거대 기업들은 점점 더 자신들이 직접 설계한 맞춤형 프로세서를 배치하고 있습니다.
이러한 독자적인 칩들이 Nvidia의 플래그십 모델만큼의 원시 성능(raw performance)을 내지는 못할지라도, 대규모 배포 요구 사항을 충족하기에는 "충분히 훌륭합니다(good enough)". 이러한 하드웨어 지형의 다변화는 컴퓨팅 현물 가격을 효과적으로 낮추어 Nvidia의 가격 결정력을 약화시키고 있습니다. 더 많은 기업이 Nvidia에 대한 의존도를 낮추기 위해 가속기 시장에 진입함에 따라, 한때 Nvidia의 마진을 보호하던 "컴퓨팅 해자(compute moat)"는 전문화된 자체 실리콘에 의해 허물어지고 있습니다.
광범위한 AI 생태계에 미치는 영향
이러한 변화는 AI 인프라 사이클이 성숙 단계에 접어들었음을 시사합니다. 초기 "골드러시"가 가능한 한 가장 강력한 GPU를 확보하는 데 집중했다면, 이제 우리는 단순한 연산 속도가 아닌—메모리에 의해 제어되는—데이터 이동의 효율성에 초점을 맞추는 최적화 단계로 진입하고 있습니다. 개발자와 창업자들에게 이는 메모리 관리와 HBM 효율성의 아키텍처적 중요성이 GPU 선택만큼이나 중요해질 것임을 의미합니다.
핵심 요약
- 컴퓨팅의 범용화: 하이퍼스케일러(Google, AWS 등)의 맞춤형 실리콘 확산으로 인해 GPU 컴퓨팅 파워의 현물 가격이 하락하고 있습니다.
- 새로운 병목 현상으로서의 메모리: DRAM 및 고대역폭 메모리(HBM)에 대한 수요가 공급을 초과하면서, 마이크론과 같은 메모리 기업들이 AI 트레이드의 새로운 고성장 수혜자로 떠오르고 있습니다.
- 구조적 시장 불균형: 지속적으로 새로운 진입자가 나타나는 GPU 시장과 달리, 메모리 시장은 진입 장벽이 높아 컴퓨팅 가격이 안정화되는 동안에도 메모리 비용은 높은 수준을 유지할 것입니다.