Anthropic은 오늘 Claude 모델을 더 빠르고 저렴하게 실행하기 위한 AI 전용 칩을 설계하는 전담 "커스텀 실리콘 팀(custom silicon team)"을 구성한다고 발표했습니다. 이번 행보는 클라우드 거물 및 GPU 제조사에 대한 의존도를 낮추는 동시에, 자사 제품을 구동하는 하드웨어-소프트웨어 루프를 강화하려는 회사의 의도를 나타냅니다.
지금 칩 팀이 중요한 이유
출시 이후 Claude는 추론에 필요한 대규모 GPU 팜을 공급받기 위해 AWS, Google Cloud, Nvidia, AMD 등 다양한 컴퓨팅 제공업체에 의존해 왔습니다. 이러한 계약을 통해 급격한 성장이 가능했지만, AI 컴퓨팅 수요의 급증은 이러한 의존성을 전략적 취약점으로 만들었습니다. 고성능 가속기의 가격은 상승하고 있으며, 용량 제한은 최종 사용자에게 더 높은 지연 시간(latency)으로 이어질 수 있습니다. Anthropic은 Claude의 수학적 워크로드에 최적화된 칩을 설계함으로써 범용 GPU가 제공할 수 없는 속도 향상과 에너지 절감을 동시에 달성하고자 합니다.
멀티 클라우드에서 공동 설계(Co-Design)로
Anthropic의 새로운 팀은 하드웨어-소프트웨어 공동 설계(co-design) 방식을 추구하며, Claude가 수행하는 특정 연산에 맞춰 실리콘 아키텍처를 형성할 것입니다. 실제로 이는 커스텀 행렬 곱셈(matrix-multiply) 유닛, 더 밀접한 온칩 메모리, 또는 토큰당 사이클 수를 줄이는 명령어 세트(instruction sets)를 의미할 수 있습니다. 이를 통해 추론 지연 시간을 낮추고 쿼리당 전력 비용을 절감할 수 있으며, 이는 제품 가격 책정과 사용자 경험에 직접적인 영향을 미치는 두 가지 핵심 지표입니다.
회사는 일정이나 성능 목표를 공개하지 않았지만, 업계에서는 삼성전자를 잠재적인 파운드리 파트너로 거론하고 있습니다. 만약 이것이 현실화된다면, Anthropic은 공급망에 대한 통제력을 더 확보하여 공개 시장의 희귀한 AI 가속기와 관련된 "천문학적인 비용"을 피할 수 있게 됩니다.
더 큰 그림: 수직 계열화로의 전환
Anthropic의 칩 개발 추진은 순수 소프트웨어를 넘어 확장하려는 AI 강자들의 광범위한 트렌드를 따르고 있습니다:
- OpenAI는 최근 Broadcom과 협력하여 추론 워크로드를 겨냥한 "Jalapeño"라는 이름의 칩을 공개했습니다.
- Google DeepMind는 오래전부터 Alphabet 내부에서 개발한 독자적인 TPU(Tensor Processing Units)에서 가장 진보된 모델을 실행해 왔습니다.
- Meta는 소셜 미디어와 AI 작업을 모두 효율화하기 위해 MTIA(Meta Training and Inference Accelerator)를 지속적으로 개선하고 있습니다.
이러한 기업들은 데이터 센터부터 실리콘에 이르기까지 전체 스택을 소유하는 것이 공급 병목 현상으로부터 보호받고 가격 경쟁력을 확보할 수 있음을 보여주었습니다. Anthropic의 칩 설계 진출은 자사의 비즈니스 모델에도 동일한 계산법이 적용된다고 믿고 있음을 시사합니다.
리스크 및 반론
커스텀 실리콘을 구축하는 것은 위험 부담이 큰 도박입니다. 칩 개발 주기는 수년에 걸쳐 진행되며 비용은 일반적인 AI 소프트웨어 R&D 예산을 훨씬 초과하는 수십억 달러에 달할 수 있습니다. 아키텍처나 제조 과정에서의 실수는 Claude의 로드맵을 지연시키거나, 시장 점유율을 잠식하거나, 회사가 비싼 가격에 기성 GPU를 다시 사용하도록 강제할 수 있습니다. 또한, AI 칩을 설계, 테스트 및 대량 생산하는 데 필요한 전문 지식은 매우 희귀하며, 기존 반도체 기업으로부터 인재를 영입하는 것은 어려울 수 있습니다.
비판론자들은 GPU 벤더들이 점점 더 크고 효율적인 AI 가속기를 계속 출시하고 있는 상황에서, 맞춤형 실리콘을 통한 성능 향상이 혁신적이기보다는 점진적인 수준에 그칠 수 있다고 주장합니다. 만약 외부 제공업체들이 더 낮은 리스크로 유사한 효율성을 제공하는 데 성공한다면, Anthropic의 투자는 결국 비용만 많이 드는 우회로가 될 수도 있습니다.
주목해야 할 점
- 제조 파트너 확정 – 삼성과 같은 파운드리와의 공식적인 협력은 프로젝트를 개념 단계에서 실제 실리콘 단계로 전환시킬 것입니다.
- 프로토타입 벤치마크 – 커스텀 칩과 주요 GPU를 비교하는 초기 성능 수치는 공동 설계 노력이 약속된 지연 시간 및 전력 절감을 달성할 수 있을지를 보여줄 것입니다.
- 인재 영입 – 새로 구성된 실리콘 팀의 규모와 전문성은 Anthropic이 기존 칩 제조사들과 얼마나 공격적으로 경쟁할 의도가 있는지를 나타내는 신호가 될 것입니다.
- 가격에 미치는 영향 – 커스텀 하드웨어가 쿼리당 비용을 낮춘다면, Claude의 구독 요금제가 더 경쟁력을 갖게 되어 여전히 제3자 하드웨어에 의존하는 경쟁사들을 압박할 수 있습니다.
Anthropic의 칩에 대한 야망은 AI 분야에서 커지는 확신을 강조합니다. 즉, 효율적으로 규모를 확장하려는 기업에게 하드웨어 스택을 제어하는 것은 더 이상 선택 사항이 아니라는 점입니다. 이번 행보의 성패는 실행 속도, 엔지니어링 인재, 그리고 실리콘을 통한 이득을 Claude 사용자들을 위한 실제 비용 절감으로 전환할 수 있는 능력에 달려 있을 것입니다.