Alibaba의 Qwen2.5-Max와 DeepSeek의 V3-Flash가 이번 주 시장에 출시되었습니다. 두 모델은 더 저렴한 AI 추론(inference)을 위해 서로 다른 경로를 택했습니다. Alibaba는 2.4조 개의 파라미터를 가진 MoE(Mixture-of-Experts) 설계를 통해 쿼리당 약 950억 개의 파라미터만 활성화합니다. 반면 DeepSeek는 토큰당 가격을 낮추기 위해 아키텍처를 축소했습니다. 이제 AI 군비 경쟁은 단순히 모델의 크기가 아니라 토큰당 달러 비용으로 측정되고 있습니다.
“더 많은 파라미터”에서 “더 낮은 비용”으로
수년간 거대언어모델(LLM) 개발의 핵심 지표는 파라미터 수였습니다. OpenAI, Google 등은 모델이 커질수록 더 똑똑해질 것이라는 전제하에 1조 개 파라미터 장벽을 돌파했다고 자랑해 왔습니다. 하지만 Alibaba와 DeepSeek는 이제 계산 방식이 바뀌었음을 보여줍니다.
Alibaba의 Qwen2.5-Max는 여전히 규모에 의존하지만, 비용 절감 기술을 추가했습니다. 밀집형(dense) 모델에서는 모든 추론 시 모든 파라미터가 작동하므로, 2.4조 개의 파라미터를 가진 네트워크는 전력을 엄청나게 소모하는 괴물이 됩니다. MoE는 네트워크를 여러 개의 “전문가(experts)”로 나누고 각 요청을 특정 하위 집합으로 라우팅합니다. Qwen2.5-Max의 라우터는 어떤 프롬프트에 대해서도 약 950억 개의 파라미터만을 선택하여, 지연 시간(latency)과 에너지 소비를 억제하면서도 1조 개 파라미터급 시스템의 추론 능력을 제공합니다.
DeepSeek는 1조 개 파라미터라는 야심을 완전히 건너뛰었습니다. V3-Flash 모델은 저렴하고 빠르며 대규모로 실행되도록 설계되었습니다. 이 회사는 매일 수백만 개의 토큰을 처리하면서도 비용 부담을 느끼지 않으려는 개발자들을 겨냥해 “초저가 추론 가격”을 중심으로 모델을 마케팅하고 있습니다. 정확한 가격은 공개되지 않았지만 메시지는 명확합니다. 스타트업이 서구권의 토큰당 요금을 감당할 수 없다면, V3-Flash가 실행 가능한 대안이 될 것이라는 점입니다.
추론 비용이 경쟁 우위가 되는 이유
모델이 연구실을 떠나 실제 서비스(production) 단계로 넘어가면 추론 비용이 중요해집니다. 챗봇, 문서 분석 파이프라인 또는 추천 엔진에 LLM을 통합하는 기업들은 토큰 단위의 가격 책정이 운영 비용의 대부분을 차지한다는 사실을 곧 깨닫게 됩니다. 토큰당 비용이 절반인 모델을 사용하면 더 많은 데이터 확보, 트래픽 증가 또는 추가 기능 구현 등 다른 프로젝트에 사용할 예산을 두 배로 늘릴 수 있습니다.
두 중국 기업은 서로 다른 시장 세그먼트를 공략하고 있습니다. Alibaba의 MoE는 요청당 컴퓨팅 예산을 적절히 유지하면서도 복잡하고 추론 중심적인 작업에 대해 높은 성능을 약속합니다. 반면 DeepSeek의 더 가벼운 모델은 원시적인 성능(raw horsepower)보다 예측 가능한 비용이 더 중요한, 대량의 데이터를 처리하고 지연 시간에 민감한 워크로드에 어필합니다.
두 전략 모두 대형 모델을 프리미엄 가격에 묶어 파는 서구권 제공업체들의 점유율을 잠식할 수 있습니다. 개발자들이 더 저렴한 토큰 가격으로 유사한 결과를 얻을 수 있다면, 비싼 API를 계속 사용할 유인은 약해집니다.
글로벌 AI 생태계에 미치는 영향
- 스타트업 및 중소기업: 낮은 추론 비용은 AI 기반 제품의 진입 장벽을 낮춥니다. 과거에는 API 비용을 위해 추가 자본이 필요했던 팀들도 이제는 더 적은 예산으로 프로토타입을 제작하고 출시할 수 있습니다.
- 기업: 내부 AI 서비스를 운영하는 대기업은 운영 비용을 절감하여 데이터 확보, 모델 미세 조정(fine-tuning) 또는 추가 컴퓨팅 자원에 사용할 자금을 확보할 수 있습니다.
- 서구권 제공업체: 이들의 수익 모델은 토큰당 과금 방식에 의존합니다. 비용 중심의 대안으로 흐름이 바뀌면, 이들은 가격을 낮추거나 저가형 모델이 아직 따라오지 못하는 기능으로 차별화해야 하는 압박을 받게 됩니다.
- 규제 기관 및 정책 입안자: 더 저렴해진 AI는 여러 산업 분야의 도입을 가속화할 수 있으며, 이는 감독, 데이터 프라이버시 및 자동화 속도에 대한 문제를 제기할 수 있습니다.
트레이드오프와 반론
Qwen2.5-Max와 같은 MoE 모델이 공짜 점심은 아닙니다. 라우팅 로직은 엔지니어링 복잡성을 더하며, 희소 활성화(sparse activation)는 쿼리 유형에 따라 불균일한 성능을 초래할 수 있습니다. 만약 라우터가 잘못 작동하면 요청이 최적이지 않은 전문가에게 전달되어 출력 품질이 저하될 수 있습니다. 또한, 하드웨어는 여전히 밀집형 컴퓨팅에 유리합니다. MoE 추론을 위한 특화된 가속기가 아직 널리 보급되지 않았다는 점도 실제 효율성 향상을 제한할 수 있습니다.
DeepSeek의 비용 우선 철학 역시 위험을 내포하고 있습니다. 공격적인 가격 책정은 종종 모델 크기와 학습 데이터에 대한 제약으로 이어져 성능의 한계를 가져올 수 있습니다. 미묘한 추론 능력을 요구하는 애플리케이션의 경우, 저가형 모델이 기대에 미치지 못해 사용자들이 다시 더 크고 비싼 대안으로 돌아갈 수도 있습니다.
마지막으로, “달러당 지능(intelligence per dollar)”은 경쟁의 한 축일 뿐입니다. 지연 시간, 신뢰성, 생태계 지원 및 지역 규제 준수는 여전히 결정적인 요소입니다. 단순히 가격 전쟁에서 승리하는 기업이 아니라, 이 모든 차원에서 균형 잡힌 패키지를 제공하는 기업이 시장을 지배하게 될 것입니다.
향후 주목해야 할 점
- 벤치마크 결과 발표: Qwen2.5-Max의 MoE 라우팅 효율성과 V3-Flash의 토큰 비용에 대한 독립적인 평가를 통해, 시장의 기대가 실제로 측정 가능한 비용 절감으로 이어지는지 확인할 수 있을 것입니다.
- 하드웨어 발전: 희소 활성화(sparse activation)에 최적화된 가속기 도입은 MoE의 이점을 증폭시킬 수 있는 반면, 범용 GPU는 밀집(dense) 모델의 경쟁력을 유지시킬 수 있습니다.
- 가격 책정 대응: 서구권 제공업체들은 요금제를 조정하거나 배치 추론 할인 또는 온프레미스 라이선스와 같은 비용 절감 기능을 추가할 수 있습니다.
- 규제 움직임: 더 저렴한 AI가 확산됨에 따라, 정부는 이러한 모델의 대규모 배포 방식에 영향을 미칠 수 있는 투명성 및 안전성 표준을 도입할 수 있습니다.
시사점
Alibaba의 MoE 기반 Qwen2.5-Max와 DeepSeek의 저비용 V3-Flash는 이제 AI 경쟁이 파라미터 수만큼이나 예산표에 의해 좌우된다는 것을 보여줍니다. 정교한 언어 능력을 제공하면서도 토큰당 비용을 낮게 유지하는 기업들은 더 넓은 사용자층에게 AI를 개방할 것이며, 이는 오랫동안 가장 크고 비싼 모델에 유리했던 경쟁 구도를 재편할 것입니다.