Claude Code를 이제 Anthropic에 지불하는 비용의 아주 일부만으로 AWS Bedrock을 통해 실행할 수 있습니다. 한 개발자가 Claude Code CLI가 Anthropic과 통신하고 있다고 착각하게 만들면서 실제 요청은 Bedrock의 Amazon Nova 모델로 라우팅하는 셀프 호스팅 LiteLLM 프록시를 구축하여, 학습 단계의 지출을 20%~35% 절감했습니다.

프록시가 중요한 이유

Claude Code로 "에이전트 방식(agentic)" 코드를 작성하는 법을 배우다 보면 Anthropic API 크레딧이 빠르게 소모됩니다. 잘못된 프롬프트 하나나 긴 디버깅 세션 하나하나가 모두 비용으로 쌓이기 때문입니다. 에이전트 루프, 도구 호출(tool calling), 컨텍스트 관리를 실험하는 개발자들에게 이러한 비용은 진행을 더디게 만드는 요인이 될 수 있습니다. 이 프록시를 사용하면 기존 워크플로우를 그대로 유지하면서도, 일반적으로 토큰당 비용이 더 저렴한 AWS 크레딧으로 비용을 지불할 수 있습니다.

기존 옵션의 문제점

  • 로컬 모델 (예: Ollama). 노트북이나 워크스테이션에서 이에 필적하는 모델을 실행하려면 고사양 RAM과 GPU가 필요한데, 많은 개발자가 이를 갖추고 있지 않습니다.
  • 무료 티어 API (예: OpenRouter). 다단계 에이전트를 테스트할 때 토큰 제한이 금방 소진되어 결국 유료 플랜으로 전환해야 하는 상황이 발생합니다. 두 방식 모두 고가의 하드웨어가 필요하거나, 전체 에이전트 사이클을 충분히 연습하기도 전에 할당량이 소진된다는 단점이 있습니다.

LiteLLM 프록시 작동 방식

  1. 도커화(Dockerised)된 LiteLLM 인스턴스가 개발자의 기기나 저렴한 클라우드 VM에서 실행됩니다.
  2. Claude Code CLI는 Anthropic에 접속하고 있다고 믿으며 프록시의 로컬 엔드포인트를 가리킵니다.
  3. 프록시는 요청을 Amazon Nova의 API 형식에 맞게 재작성하여 Bedrock으로 전달합니다.
  4. Nova의 응답은 CLI가 기대하는 형태로 다시 변환됩니다. CLI는 차이를 전혀 알지 못하기 때문에, 개발자는 Claude Code가 지원하는 동일한 프롬프트, 도구 호출 구문, 컨텍스트 관리 패턴을 그대로 사용할 수 있습니다.

내장된 안전 장치

  • 인위적인 세션 제한 없음. 프록시는 Bedrock의 제한 외에 추가적인 제한을 두지 않습니다.
  • IAM 제한. 액세스 키를 단일 모델에 고정하여, 실수로 더 높은 비용의 옵션으로 전환하는 것을 방지합니다.
  • AWS 예산 알림. 예산 규칙이 계정을 모니터링하며 지출이 예상치 못하게 급증할 경우 사용자에게 알림을 보냅니다. 이러한 제어 장치 덕분에 실험은 저위험이며 투명하게 유지됩니다.

비용 비교

공개된 Bedrock 가격 책정을 기준으로 할 때, 이 프록시는 Anthropic을 통해 Claude Haiku를 직접 사용하는 것보다 20%~35% 낮은 지출을 제공합니다. 정확한 수치는 에이전트의 프롬프트와 응답의 토큰 구성에 따라 달라지지만, 학습 예산에서 눈에 띄는 절감 효과를 볼 수 있을 만큼 일관된 감소 폭을 보입니다.

Docker 이미지와 설정 파일은 제작자인 Priyanshu Valiya의 이름으로 GitHub에 공개되어 있습니다. 간단한 검색만으로 누구나 설정을 재현할 수 있는 아티팩트를 내려받을 수 있습니다.

프록시가 수행하지 않는 작업

  • Claude를 무료로 실행하는 것이 아닙니다. 배후의 모델은 Claude가 아닌 Amazon Nova입니다. Nova는 유사한 추론 및 도구 호출 프리미티브(primitives)를 지원하지만, 출력 스타일과 성능은 다를 수 있습니다.
  • 프로덕션 벤치마크가 아닙니다. 기반 모델과 가격 책정이 다르기 때문에, 이 프록시를 사용하여 Claude Code가 실제 서비스에 적합한지 판단하는 것은 잘못된 결과를 초래할 수 있습니다.
  • 프로덕션 환경에서 토큰 기반의 비용 추적만으로는 불충분합니다. AWS는 "Bedrock Agents Classic"에서 "AgentCore"로 전환하고 있습니다. 새로운 서비스에서는 토큰뿐만 아니라 에이전트 호출 및 게이트웨이 요청과 같은 플랫폼 서비스에 대해서도 비용이 발생합니다. 학습 단계에서 프로덕션 단계로 넘어가는 개발자는 이러한 추가 항목을 주의 깊게 살펴야 합니다.

향후 주목할 점

  • AWS AgentCore 가격 업데이트. 플랫폼이 성숙해짐에 따라 에이전트 오케스트레이션이나 요청 라우팅과 같은 기능에 대해 새로운 요금이 도입될 수 있습니다. AWS 가격 페이지를 수시로 확인하여 예상치 못한 청구서를 방지하십시오.

요약

Claude Code와 AWS Bedrock 사이에 LiteLLM 프록시를 배치함으로써, 개발자는 Anthropic API를 직접 사용하는 것보다 20%~35% 낮은 비용으로 에이전트 방식의 코딩을 연습할 수 있습니다. 기반 모델이 다르다는 점과 철저한 예산 관리가 필요하다는 트레이드오프가 있지만, 핵심적인 학습 경험은 온전히 유지됩니다. 도구 호출 에이전트를 탐색하는 동안 크레딧 제한에 부딪힌 사람들에게 이 프록시는 실용적이고 저위험인 지름길을 제공합니다.