Kimi K3의 API는 서류상으로는 저렴해 보이지만, 숨겨진 비용과 누락된 기술적 세부 사항으로 인해 표면적인 수치보다 훨씬 더 비쌀 수 있습니다.
과장된 홍보에서 생략된 사실들
Moonshot AI의 출시 자료는 "저렴하고" "개방적인" 2.8조 개의 파라미터를 가진 모델을 자랑합니다. 보도 자료에서는 곧 가중치(weights)를 다운로드할 수 있게 하겠다고 약속하기도 했습니다. 하지만 두 주장 모두 근거가 부족합니다.
- 가중치를 사용할 수 없음 – Moonshot은 2026년 7월 27일을 공개 체크포인트 마감일로 설정했습니다. 그때까지 사용자는 호스팅된 API를 호출해야 하므로, "오픈 소스" 약속은 실질적으로 아무런 도움이 되지 않습니다.
- 2.8조 개의 파라미터가 모두 활성화되는 것은 아님 – 이 수치는 아키텍처의 전체 용량을 나타냅니다. K3의 Mixture-of-Experts 설계는 각 토큰을 896개의 전문가 서브 네트워크 중 16개를 통해 전달합니다. Moonshot은 요청당 몇 개의 파라미터가 실행되는지 밝히지 않았으므로, 메모리 및 연산량 추정이 불가능합니다.
단어 수를 세기 전까지는 좋아 보이는 가격 정책
공개된 요금:
- 캐시 히트(Cache-hit) 입력: 100만 토큰당 $0.30
- 캐시 미적중(Uncached) 입력: 100만 토큰당 $3.00
- 출력: 100만 토큰당 $15.00
이 요금들은 저렴해 보이지만, 토큰 사용량을 간과하고 있습니다.
최근 테스트 결과, 동일한 작업에서 다른 주요 모델들이 6,300만 개의 토큰을 생성한 것에 비해 K3는 1억 3,000만 개의 토큰을 생성하여 두 배 이상의 출력을 기록했습니다. 모델의 장황함(verbosity)은 출력 비용을 직접적으로 부풀립니다. 즉, 단어 수가 두 배가 되면 비용도 두 배가 됩니다. 코드 생성, 에세이 작성 또는 채팅 에이전트의 경우, 100만 토큰당 $15의 요금이 전체 지출의 대부분을 차지할 수 있습니다.
사용자 유형별 시사점
개발자 및 연구자
코딩 보조나 데이터 기반 연구를 위해 K3를 테스트한다면, 토큰 출력에 엄격한 제한(hard caps)을 두십시오. 동일한 출력 제한을 가진 베이스라인 모델과 K3를 비교하는 A/B 테스트를 수행하면, 높은 토큰 사용량이 모델 자체의 특성인지 아니면 프롬프트 설계 때문인지 확인할 수 있습니다.
예산을 중시하는 팀
캐시 히트 할인은 동일한 입력이 반복될 때만 적용됩니다. 더 많은 요청을 $0.30 등급으로 유도하기 위해 동일한 입력 문자열을 생성하는 안정적인 프롬프트 접두사(prefix)를 만드십시오. 이는 템플릿 기반 쿼리와 같이 반복성이 매우 높은 작업에만 유효합니다. 대부분의 다양한 입력은 $3.00의 캐시 미적중 요금으로 처리됩니다.
셀프 호스팅을 고려하는 기업
체크포인트 출시를 기다리는 것이 현명합니다. 모델을 직접 호스팅하면 토큰당 비용은 사라지지만, 공개되지 않은 라이선스 및 인프라 비용이 추가됩니다. 가중치가 공개될 때까지는 호스팅된 API가 유일하고 현실적인 선택지입니다.
프로덕션 환경
단순히 헤드라인 가격이 경쟁사보다 낮다고 해서 바로 전환하지 마십시오. 토큰당 비용 대신, 긴 응답으로 인한 숨겨진 오버헤드를 포함하여 **완료된 작업당 비용(cost per completed task)**을 측정하는 파일럿 테스트를 실시하십시오. 그래야만 K3가 실제로 비용을 절감하는지 판단할 수 있습니다.
향후 주목해야 할 사항
- 2026년 7월 27일 체크포인트 출시 – 해당 날짜에 가중치 공개 예정.
- 활성 파라미터 공개 – 토큰당 2.8조 개의 파라미터 중 몇 개가 실행되는지 알게 되면 사용자가 하드웨어 규모를 정확하게 산정할 수 있습니다.
결론
K3가 광고하는 100만 토큰당 $15의 출력 가격은 절반의 진실만을 말해줍니다. 경쟁 모델보다 두 배 많은 토큰을 생성하는 경향은, 특히 긴 답변이 필요한 작업에서 광고된 비용 절감 효과를 완전히 상쇄할 수 있습니다. 가중치가 공개되고 활성 파라미터 수가 명확해질 때까지는 K3를 저렴한 대안이 아닌, 비용이 많이 들고 다소 장황할 수 있는 프리미엄 서비스로 취급하십시오. 토큰 예산 테스트를 실시하고 출력 제한을 적용하며, 작업 완료당 실제 비용을 측정한 후에만 전환을 결정하십시오.
