AI 인프라 지형은 자본이 모델 학습에서 모델 실행으로 이동함에 따라 근본적인 전환을 맞이하고 있습니다. 기술 투자 기업인 Upper90이 AI 추론 스타트업 General Compute에 제공한 4억 달러 규모의 대규모 대출은 하드웨어 금융 및 배포 방식의 역사적인 이정표가 되었습니다.
새로운 담보의 시대: 추론 칩 금융
GPU 금융의 초기 단계를 반영하듯, Upper90은 새로운 자산군인 추론 특화 실리콘 분야에 진출하고 있습니다. CoreWeave와 같은 기업들이 주도했던 이전의 금융 흐름이 대규모 학습 워크로드에 사용되는 Nvidia GPU에 집중했다면, 이번 4억 달러 규모의 거래는 이미 학습된 모델을 실행하기 위해 특별히 제작된 칩을 담보로 활용합니다.
CEO Finn Puklowski가 이끄는 General Compute는 범용 컴퓨팅이 아닌 AI 워크로드에 특화된 인프라 제공업체인 '네오클라우드(neocloud)'를 구축하고 있습니다. 이러한 차별점은 매우 중요합니다. AWS나 Azure와 같은 기존의 하이퍼스케일러들이 광범위한 서비스를 제공하는 반면, 네오클라우드는 대규모 언어 모델(LLM)의 고유한 지연 시간(latency) 및 처리량(throughput) 요구 사항에 최적화되어 있습니다.
SambaNova SN50의 기술적 우위
General Compute 전략의 핵심은 인텔의 지원을 받는 칩 제조사인 SambaNova와의 파트너십입니다. 이 회사는 기존 하드웨어보다 상당한 성능 도약을 제공하도록 설계된 SambaNova의 SN50 칩을 배치하고 있습니다.
General Compute에 따르면, 이 칩들은 현재의 GPU 기반 클라우드보다 최대 16배 빠른 추론 속도를 제공할 수 있습니다. 단순한 속도를 넘어, SN50은 두 가지 주요 운영상의 이점을 제공합니다:
- 전력 효율성: 토큰당 에너지 소비가 적어 AI 배포에 드는 막대한 오버헤드 비용을 줄여줍니다.
- 간소화된 냉각: 복잡하고 비용이 많이 드는 수냉식 시스템이 자주 필요한 하이엔드 GPU와 달리, 이 칩들은 다양한 표준 데이터 센터 환경에서 더 빠르게 배포할 수 있습니다.
엔비디아 독점 타파
이번 거래는 단순한 자본 투입 그 이상입니다. 이는 시장이 엔비디아의 독점에 대한 대안을 찾고 있다는 전략적 신호입니다. 토큰 비용과 프런티어 모델 접근 비용이 개발자들에게 여전히 장벽으로 남아 있는 상황에서, 오픈 소스 모델에 대한 저렴하고 효율적인 접근에 대한 수요가 증가하고 있습니다.
코딩 벤치마크에서 Anthropic 및 OpenAI와 경쟁하는 Kimi의 K3와 같이 고성능 오픈 소스 모델이 부상함에 따라, 업계의 병목 현상은 "모델을 어떻게 구축할 것인가?"에서 "모델을 어떻게 저렴하게 실행할 것인가?"로 이동하고 있습니다. 엔비디아 이외의 실리콘을 활용함으로써, General Compute와 AMD와 파트너십을 맺은 TensorWave와 같은 경쟁사들은 더 우수한 총 소유 비용(TCO)을 제공할 수 있는 위치를 선점하고 있습니다.
Puklowski가 언급했듯이, 이번 거래는 AI 생태계에 대한 엔비디아의 독점적 지배력을 분산시키기 위해 "자본이 스스로 조직화되는 것"을 의미합니다. 특화된 추론 하드웨어에 베팅함으로써, 투자자들은 AI 붐의 다음 단계가 규모, 효율성, 그리고 일상적인 애플리케이션에서의 AI 보편성에 의해 주도될 것임을 인정하고 있습니다.
핵심 요약
- 추론 우선 금융: 4억 달러 규모의 이번 거래는 대규모 대출의 담보로 단순히 학습용 GPU가 아닌 특화된 추론 칩을 사용하는 방향으로의 전환을 의미합니다.
- 성능 향상: General Compute는 더 나은 전력 효율성과 용이한 배포를 제공하는 SambaNova의 SN50 칩을 사용하여 GPU 기반 클라우드보다 최대 16배 높은 성능을 목표로 합니다.
- 스택의 다각화: 이번 움직임은 오픈 소스 LLM의 비용 효율적인 확장을 지원하기 위해 엔비디아 이외의 실리콘에 대한 시장 수요가 증가하고 있음을 시사합니다.