Mistral, 데이터 거주 규정 준수를 위해 EU 전용 추론에 10% 추가 요금 부과

지역별 추론: 컴퓨팅 단계를 EU 내에 유지하기

개인정보나 금융 데이터를 유럽 국경 내에 유지해야 하는 기업은 이제 API 호출을 api.eu.mistral.ai로 지정할 수 있습니다. 모델의 처리 과정, 즉 요청이 하드웨어에서 실행되는 순간이 EU 내에 머물게 되어, 많은 데이터 거주성(data-residency) 규정을 충족합니다. 미국 고객을 위해 마련된 병렬 엔드포인트(api.us.mistral.ai)도 동일한 지리적 보장을 제공합니다.

이 혜택이 완전한 격리를 의미하는 것은 아닙니다. Mistral의 문서에 따르면 계정 메타데이터, API 키, 결제 기록 및 사용 통계는 여전히 선택한 지역 외부에서 처리될 수 있습니다. 요청 로그가 저장되는 것을 방지하려면 사용자가 “Zero Data Retention” 플래그를 활성화해야 합니다. 그렇지 않으면 요청 메타데이터가 다른 곳에 보관될 수 있습니다. 지역별 옵션을 사용하면 표준 토큰당 가격에 10%의 추가 요금이 부과됩니다.

지역별 엔드포인트가 아직 할 수 없는 것들

현재 EU 엔드포인트는 상태 비저장(stateless) 작업만 지원합니다. “Stateless”란 서비스가 호출 간에 어떠한 중간 데이터도 유지하지 않고 각 요청을 독립적으로 처리함을 의미합니다. 이 제한으로 인해 다음과 같은 몇 가지 상위 수준의 기능 사용이 차단됩니다.

• 여러 호출을 다단계 추론 워크플로우로 연결하는 AI 에이전트.
• 대규모 데이터 세트에서 비동기적으로 실행되는 배치 처리 작업.
• 문서 또는 기타 자산을 업로드하는 데 사용되는 Files API.

지속성 저장소(persistent storage)의 부재가 기술적인 걸림돌인 것으로 보입니다. 또한, EU 엔드포인트에서 사용 가능한 모델 카탈로그가 글로벌 세트와 다를 수 있으므로, 고객은 어떤 모델이 실제로 배포되어 있는지 확인하기 위해 엔드포인트에 쿼리를 보내야 합니다.

Priority tier: 지연 시간에 민감한 워크로드를 위한 급행 차선

현재 오픈 베타 단계인 Mistral의 Priority tier는 시스템이 혼잡할 때 유료 고객의 요청이 표준 트래픽보다 우선적으로 처리됨을 보장합니다. 이 티어는 세 가지 엔터프라이즈급 보장을 포함합니다.

• Uptime SLA – 계약으로 보장되는 99.5%의 가용성으로, 한 달에 허용되는 다운타임은 약 3.5시간입니다. 표준 티어는 공식적인 업타임 약속을 제공하지 않습니다.
• Predictable latency – 호출자는 service_tier 파라미터를 설정하여 시스템에 요청 우선순위를 지정할 수 있으며, 이를 통해 응답 시간의 변동성을 줄일 수 있습니다.
• Premium pricing – 프롬프트 캐싱(prompt-caching) 할인이 적용된 후, 이 티어에는 75%의 추가 요금(기본 가격의 1.75배)이 부과됩니다.

Priority tier는 셀프 서비스로 이용할 수 없습니다. 기업은 Mistral 영업팀과 계약을 협상하고 맞춤형 속도 제한(rate limits)에 합의해야 합니다. 이 서비스는 몇 밀리초의 차이가 수익에 영향을 미칠 수 있는 라이브 챗봇과 같은 실시간 애플리케이션을 대상으로 합니다.

서드파티 모델을 통한 플랫폼 확장

Mistral은 단순한 단일 모델 제공업체 이상의 입지를 구축하고 있습니다. 이제 인프라에서 외부 개발자의 모델을 수용하며, 그 첫 번째는 중국 기업 Z.ai의 GLM-5.2입니다. 증가하는 컴퓨팅 수요와 새로운 유럽 데이터 센터를 지원하기 위해, Mistral은 “European Compute Units”를 판매하고 있습니다. 이는 지역 하드웨어 구축 자금을 마련하기 위해 대기업으로부터 받는 다년 단위 구매 약정입니다.

이해관계 및 잠재적 반발

규제 대상 기업은 컴퓨팅을 EU 내에 유지함으로써 규제 준수를 위한 더 명확한 경로를 확보할 수 있고, 지연 시간에 민감한 서비스는 Priority tier를 통해 성능을 확보할 수 있습니다. 하지만 10% 또는 75%의 프리미엄을 감당할 수 없는 소규모 업체들에게는 추가 비용이 진입 장벽이 될 수 있습니다. 또한 stateless 제한으로 인해 개발자들은 에이전트나 배치 작업에 의존하는 워크플로우를 재설계해야 하며, 이는 잠재적으로 엔지니어링 오버헤드를 증가시킬 수 있습니다.

이미 완전한 소버린 스택(sovereign stacks)이나 저비용 지연 시간 보장을 제공하는 경쟁사들이 가격에 민감한 고객을 유인할 수 있습니다. 만약 지역별 엔드포인트의 모델 다양성이 제한적인 상태로 남는다면, 기업들은 특정 기능을 위해 여전히 글로벌 엔드포인트를 사용해야 할 수도 있으며, 이는 주권(sovereignty) 주장력을 약화시킬 수 있습니다.

향후 주목해야 할 사항

• 모델 가용성 – Mistral이 EU 엔드포인트에서 호스팅하는 모델 세트를 확장할지 여부가 도입에 영향을 미칠 것입니다.
• 가격 조정 – 추가 요금 비율의 변경은 기업의 비용 대비 편익 균형을 변화시킬 수 있습니다.
• 기능 출시 – 지역별 엔드포인트에 상태 유지(stateful) 기능(에이전트, 배치 작업, 파일 처리)이 도입되면 주요 격차가 해소될 것입니다.
• European Compute Units 채택 – 대형 고객들이 이러한 장기 계약을 체결하는 속도는 Mistral이 EU 인프라를 얼마나 빠르게 확장할 수 있는지를 나타내는 지표가 될 것입니다.

이번 출시는 데이터 거주성과 초저지연성을 중시하여 기꺼이 프리미엄을 지불할 용의가 있는 시장에 Mistral이 승부수를 던지고 있음을 보여줍니다. 가격 및 기능적 제약이 수용 가능한 수준인지에 따라, 새로운 요금제가 경쟁 우위를 확보할지 아니면 니치 시장을 겨냥한 상품에 머물지가 결정될 것입니다.