오픈 소스 AI 운동은 진정으로 인상적인 모델들을 만들어냈습니다. DeepSeek는 이제 Vercel의 AI 게이트웨이를 통해 흐르는 모든 토큰의 3분의 1 이상을 처리합니다. Z.ai의 GLM-5.2는 플랫폼 내 사용량 기준으로 상위 4위 안에 안정적으로 자리 잡고 있습니다. 이것들은 취미 수준의 프로젝트가 아닙니다. 대규모의 실제 기업 워크로드를 처리하는 프로덕션급 시스템입니다. 이러한 수치를 보면 Anthropic과 같은 프런티어 랩들이 시장 지위에 실존적 위협을 느끼고 있다고 가정하기 쉽습니다.
하지만 그 가정은 실제로 일어나고 있는 일을 놓치고 있습니다.
프런티어 모델의 진정한 역할
Decagon의 CEO Jesse Zhang은 독점(proprietary) AI와 오픈 소스 AI 사이의 분리를 이해하는 더 명확한 방법을 제시했습니다. 이 경쟁은 단순히 서로를 대체하기 위한 경주가 아닙니다. 대신, 두 카테고리는 단일 기업 라이프사이클의 서로 다른 단계에 기여합니다.
프런티어 모델은 발견(discovery) 레이어로서 기능합니다. 기업이 AI가 내부 프로세스를 어떻게 변화시킬 수 있을지 탐색하기 시작할 때, 과업은 거의 항상 불분명하게 정의되어 있습니다. 입력값은 무질서하고, 원하는 출력값은 모호합니다. 성공하려면 모호함을 뚫고 추론해야 하며, 팀이 아직 분류하지 못한 예외 상황(edge cases)을 처리해야 하고, 매시간 변하는 프롬프트에 적응해야 합니다. 이것은 프로토타이핑 및 개념 증명(PoC) 작업입니다. 비용에 상관없이 사용 가능한 가장 유능한 시스템을 요구하는데, 그렇지 않으면 아무것도 배우지 못하는 실패한 실험이 될 수 있기 때문입니다.
이 단계에서 비싼 프런티어 모델은 오버헤드가 아닙니다. 그것은 몇 번의 API 호출로 압축된 시장 조사 비용입니다. 유스케이스가 입증되고 워크플로우가 매핑되면 문제의 성격이 바뀝니다. 모호함이 사라집니다. 입력값이 표준화됩니다. 프롬프트가 안정화됩니다. 과업이 일상적인 업무(routine)가 됩니다. 그 시점에서 많은 기업은 워크로드를 더 가볍고 저렴한 모델로 이전합니다. 오픈 소스 대안들이 등장하여 프로덕션 단계를 점유하는 동안, 프런티어 모델은 프런티어에 머물며 다음 파도의 미지의 문제들을 처리합니다.
이것은 AI가 어떻게 작동해야 하는지에 대한 이론이 아닙니다. 예산이 이미 어떻게 움직이고 있는지에 대한 설명입니다.
워크로드가 하위 시장(downmarket)으로 이동할 때
오픈 소스로의 이전은 실재하며, 트래픽 데이터에서도 확인할 수 있습니다. Vercel 인프라에서 DeepSeek의 토큰 볼륨이 3분의 1 이상으로 급증한 것은 기업들이 저렴한 모델을 통해 엄청난 양의 추론을 실행하고 있음을 보여줍니다. Z.ai의 GLM-5.2 또한 꾸준하고 예측 가능한 트래픽을 처리하며 상위 4위 자리를 확보했습니다.
이러한 모델들은 길들여진(tamed) 작업에서 탁월한 성능을 발휘합니다. 표준화된 양식에서 대량의 데이터를 추출하거나, 명확한 키워드를 기반으로 티켓을 분류하는 1차 고객 지원 트리아지(triage), 또는 일상적인 코드 린팅(linting) 및 문서 생성 등을 생각해보십시오. 프롬프트는 템플릿화되어 있습니다. 오류 모드는 이미 파악되어 있습니다. 잘못된 출력으로 인한 비즈니스 리스크는 통제 가능한 수준입니다. 작업이 정의되어 있고 반복적일 때, 추론 비용이 최우선 고려 사항이 됩니다. 프리미엄 티어 대신 6센트짜리 모델로 동일한 워크로드를 실행하는 것은 즉각적인 경제적 이득이 됩니다.
하지만 볼륨이 곧 매출은 아닙니다. 오픈 소스 모델이 토큰 수에서 우위를 점한다고 해서 가치 창출에서도 우위를 점한다는 의미는 아닙니다. 토큰 볼륨은 활동량을 측정합니다. 토큰 지출은 기업이 대체 불가능한 역량을 위해 기꺼이 지불하고자 하는 금액을 측정합니다.
돈이 실제로 흐르는 곳
Vercel의 AI 게이트웨이 데이터는 이러한 경제적 분리를 무시할 수 없게 만듭니다. 원시 토큰 트래픽에서 DeepSeek가 지배적임에도 불구하고, Anthropic은 플랫폼 전체 AI 지출의 절반 이상을 계속해서 차지하고 있습니다. 활동량과 지출 사이의 격차는 엄청난 가격 차이에서 비롯됩니다.
OpenRouter 데이터에 따르면, Anthropic의 Opus 4.8은 100만 토큰당 약 1.37달러의 비용이 듭니다. DeepSeek의 V4Flash는 동일한 볼륨에 대해 약 6센트가 듭니다. Opus의 가격은 약 23배 더 높습니다. 이 배수는 원시 토큰 수보다 훨씬 더 중요한 의미를 갖습니다. 개발 팀이 추론 볼륨의 90%를 저렴한 모델로 옮기더라도, 여전히 비싼 모델이 예산의 대부분을 차지하게 될 수 있습니다.
이러한 격차는 우연이 아닙니다. 이는 프론티어 제공업체들이 서로 다른 것을 판매하고 있다는 현실을 반영합니다. 그들은 단순히 토큰을 파는 것이 아닙니다. 정해진 플레이북이 없는 문제를 추론하여 해결하는 능력을 판매하고 있는 것입니다. 프리미엄 요금을 지불하는 기업들은 무지해서 그렇게 하는 것이 아닙니다. 그들이 모델에 할당하는 작업이 리스크가 매우 크거나 구조적으로 복잡하기 때문입니다. 새로운 규제 노출을 분석하는 법무팀은 환각(hallucination)된 인용을 용납할 수 없습니다. 다단계 에이전트 워크플로우를 설계하는 제품 팀은 모델이 여러 턴에 걸쳐 논리를 정확하게 연결하기를 필요로 합니다. 이러한 시나리오에서 실패의 비용은 API 호출 비용을 훨씬 상회합니다.
자본 지출은 단순히 실행되는 단계가 아니라, 여전히 가치가 창출되고 있는 계층으로 흐릅니다.
시장이 마이그레이션보다 빠르게 성장한다
오픈 소스 모델이 훨씬 저렴하고 기업들이 성숙한 워크로드를 오픈 소스로 적극적으로 전환하고 있다면, 왜 프론티어 모델에 대한 지출은 급감하지 않았을까요? 답은 해결 가능한 AI 작업의 전체 시장이 단일 모델이 범용화(commoditize)할 수 있는 속도보다 더 빠르게 확장되고 있기 때문입니다.
기업이 오픈 소스 대안을 통해 예측 가능한 워크플로우를 성공적으로 자동화할 때마다 두 가지 일이 일어납니다. 첫째, 해당 팀은 실행 비용을 절감합니다. 둘째, 그 자원과 인재는 더 어려운 인접 문제로 재배치됩니다. 일상적인 업무는 이제 기계가 처리하므로, 인간은 불규칙하고 전략적이며 전례 없는 문제에 집중할 수 있습니다. 새롭게 발견된 문제는 거의 항상 프론티어 모델의 추론 깊이를 필요로 합니다.
이러한 패턴은 산업 전반에서 반복됩니다. 은행은 저렴한 모델을 사용하여 문서 검토를 자동화한 다음, 미묘한 판단이 필요한 동적 리스크 모델 구축으로 관심을 돌립니다. 소프트웨어 기업은 테스트 생성을 자동화한 다음, 분산 시스템 전체에서 오류를 추적해야 하는 자율 디버깅 에이전트 구축을 시도합니다. 프론티어는 계속 전진합니다. 한 작업이 범용화되는 즉시, 프리미엄 역량을 요구하는 더 복잡한 유스케이스가 등장합니다.
많은 기업용 작업 또한 현재 세대의 오픈 소스 대안에 맡기기에는 너무 민감합니다. 의료 트리아지(triage) 지원, 규제 감시 하의 재무 예측, 경영 전략 분석 등은 정확성과 신뢰성에 비해 추론 비용이 무의미할 정도의 하방 리스크를 수반합니다. 이러한 워크로드는 지속 가능한 프리미엄 계층을 형성합니다. 그 결과, 복잡한 추론과 발견을 위한 고마진 계층과 일상적인 생산 실행을 위한 고용량 범용 계층이라는 안정적인 이원화된 경제 구조가 만들어집니다.
기업 구매자에게 주는 의미
실질적인 시사점은 모델 선택이 이념이 아닌 작업의 성숙도에 따라 이루어져야 한다는 것입니다. 접근 가능한 가장 유능한 프론티어 모델을 사용하여 새로운 AI 애플리케이션을 구축하고 검증하십시오. 발견 단계에서는 프리미엄을 지불하십시오. 이는 제한된 모델로 구축했다가 가치를 증명하지 못하고 프로젝트를 포기하는 것보다 저렴합니다. 입력값, 출력값, 실패 모드가 파악되면 그때 공격적으로 최적화하십시오. 안정적인 워크로드를 오픈 소스 대안으로 옮겨 비용 절감을 달성하십시오.
모든 작업을 단일 계층으로 강제하려는 시도는 자본 낭비나 역량 상실로 이어지는 지름길입니다. 이를 올바르게 헤쳐 나가는 기업들은 타협책으로서가 아니라 기본값으로서 하이브리드 아키텍처를 운영하게 될 것입니다.
여기서의 이야기는 오픈 소스가 지고 있다거나 프론티어 연구소들이 무적이라는 것이 아닙니다. 두 계층 모두 성장하고 있지만, 서로 다른 방향으로 성장하고 있다는 것입니다. 오픈 소스 모델은 알려진 AI 작업의 세계를 삼키고 있습니다. 프론티어 모델은 미지의 영역에 대한 권리를 주장하고 있습니다. 당분간은 양측 모두에게 편안한 구도가 될 것입니다.