Claude Code hiện có thể được chạy thông qua AWS Bedrock với mức giá chỉ bằng một phần nhỏ so với chi phí mà các nhà phát triển thường trả cho Anthropic. Một nhà phát triển đã xây dựng một proxy LiteLLM tự lưu trữ (self-hosted), khiến Claude Code CLI lầm tưởng rằng nó đang giao tiếp với Anthropic, trong khi các yêu cầu thực tế lại được định tuyến đến mô hình Amazon Nova trên Bedrock, giúp cắt giảm chi phí trong giai đoạn học tập xuống 20%–35%.

Tại sao proxy này lại quan trọng

Việc học cách viết mã theo kiểu "agentic" (tác nhân) với Claude Code tiêu tốn tín dụng (credits) API của Anthropic rất nhanh—mỗi câu lệnh sai hoặc mỗi phiên gỡ lỗi kéo dài đều làm tăng chi phí. Đối với các nhà phát triển đang thử nghiệm với các vòng lặp tác nhân (agent loops), gọi công cụ (tool calling) và quản lý ngữ cảnh (context management), chi phí đó có thể làm chậm tiến độ. Proxy này cho phép bạn giữ nguyên quy trình làm việc nhưng thanh toán bằng AWS credits, vốn thường rẻ hơn trên mỗi token.

Vấn đề với các lựa chọn hiện có

  • Các mô hình chạy cục bộ (ví dụ: Ollama). Việc chạy một mô hình tương đương trên laptop hoặc máy trạm đòi hỏi RAM và GPU cao cấp, điều mà nhiều nhà phát triển không có.
  • Các API gói miễn phí (ví dụ: OpenRouter). Giới hạn token sẽ nhanh chóng bị lấp đầy khi thử nghiệm các tác nhân đa bước (multi-step agents), buộc người dùng phải chuyển sang các gói trả phí. Cả hai cách tiếp cận này đều yêu cầu phần cứng đắt tiền hoặc sẽ hết hạn mức trước khi có thể thực hiện hết một chu kỳ tác nhân đầy đủ.

Cách thức hoạt động của proxy LiteLLM

  1. Một thực thể (instance) LiteLLM được Docker hóa chạy trên máy của nhà phát triển hoặc một máy ảo (VM) đám mây giá rẻ.
  2. Claude Code CLI trỏ đến endpoint cục bộ của proxy, tin rằng nó đang liên lạc với Anthropic.
  3. Proxy sẽ viết lại yêu cầu để khớp với định dạng API của Amazon Nova và chuyển tiếp nó đến Bedrock.
  4. Các phản hồi của Nova được dịch ngược lại về định dạng mà CLI mong đợi. Vì CLI không hề biết sự khác biệt, nhà phát triển có thể tiếp tục sử dụng các câu lệnh (prompts), cú pháp gọi công cụ (tool-calling syntax) và các mẫu quản lý ngữ cảnh (context-management patterns) mà Claude Code hỗ trợ.

Các cơ chế an toàn được tích hợp sẵn

  • Không có giới hạn phiên làm việc nhân tạo. Proxy không áp đặt thêm bất kỳ giới hạn nào ngoài giới hạn của Bedrock.
  • Hạn chế IAM. Các khóa truy cập (access keys) được khóa vào một mô hình duy nhất, ngăn chặn việc vô tình chuyển sang các tùy chọn có giá cao hơn.
  • Cảnh báo ngân sách AWS. Một quy tắc ngân sách sẽ theo dõi tài khoản và thông báo cho người dùng nếu chi tiêu tăng đột biến một cách bất ngờ. Các biện pháp kiểm soát này giúp cuộc thử nghiệm trở nên ít rủi ro và minh bạch hơn.

So sánh chi phí

Dựa trên bảng giá Bedrock được công bố công khai, proxy này giúp giảm chi tiêu từ 20%–35% so với việc sử dụng trực tiếp Claude Haiku thông qua Anthropic. Con số chính xác phụ thuộc vào sự kết hợp các token giữa câu lệnh và phản hồi của tác nhân, nhưng mức giảm này đủ ổn định để tạo ra sự khác biệt đáng kể trong ngân sách học tập.

Hình ảnh Docker (Docker image) và các tệp cấu hình được lưu trữ trên GitHub dưới tên của người tạo, Priyanshu Valiya. Chỉ cần tìm kiếm nhanh là có thể tải về các thành phần (artifacts) mà bất kỳ ai cũng có thể sử dụng để thiết lập tương tự.

Những gì proxy này không làm được

  • Đây không phải là bản chạy miễn phí của Claude. Mô hình chạy ngầm bên dưới là Amazon Nova, không phải Claude. Nova hỗ trợ các nguyên mẫu (primitives) về suy luận và gọi công cụ tương tự, nhưng phong cách đầu ra và hiệu suất của nó sẽ khác biệt.
  • Đây không phải là một tiêu chuẩn đánh giá (benchmark) cho môi trường production. Việc sử dụng proxy để đánh giá mức độ phù hợp của Claude Code cho một dịch vụ thực tế sẽ gây hiểu lầm, vì mô hình nền tảng và giá cả là khác nhau.
  • Việc chỉ theo dõi chi phí dựa trên token là không đủ cho môi trường production. AWS đang chuyển đổi từ “Bedrock Agents Classic” sang “AgentCore.” Trong gói dịch vụ mới hơn, chi phí không chỉ phát sinh cho token mà còn cho các dịch vụ nền tảng như gọi tác nhân (agent invocation) và các yêu cầu cổng kết nối (gateway requests). Các nhà phát triển khi chuyển từ giai đoạn học tập sang production cần lưu ý các khoản mục bổ sung này.

Những điều cần lưu ý tiếp theo

  • Các cập nhật về giá của AWS AgentCore. Khi nền tảng hoàn thiện hơn, các khoản phí mới có thể xuất hiện cho các tính năng như điều phối tác nhân (agent orchestration) hoặc định tuyến yêu cầu (request routing). Việc kiểm tra trang giá của AWS sẽ giúp tránh các hóa đơn bất ngờ.

Kết luận

Bằng cách đặt một proxy LiteLLM giữa Claude Code và AWS Bedrock, các nhà phát triển có thể thực hành lập trình agentic với chi phí thấp hơn 20%–35% so với việc sử dụng trực tiếp API của Anthropic. Sự đánh đổi là một mô hình nền tảng khác và nhu cầu quản lý ngân sách chặt chẽ, nhưng trải nghiệm học tập cốt lõi vẫn được giữ nguyên. Đối với bất kỳ ai đang bị kẹt bởi giới hạn tín dụng khi khám phá các tác nhân gọi công cụ, proxy này cung cấp một lối tắt thực tế và ít rủi ro.