Claude Code को अब Anthropic को दिए जाने वाले सामान्य खर्च के एक छोटे से हिस्से में AWS Bedrock के माध्यम से चलाया जा सकता है। एक डेवलपर ने एक self-hosted LiteLLM proxy बनाया है जो Claude Code CLI को यह सोचने पर मजबूर कर देता है कि वह Anthropic से बात कर रहा है, जबकि अनुरोध वास्तव में Bedrock पर Amazon के Nova मॉडल पर रूट होते हैं, जिससे लर्निंग-फेज़ (सीखने के चरण) का खर्च 20%–35% तक कम हो जाता है।

यह proxy क्यों महत्वपूर्ण है

Claude Code के साथ "agentic" कोड लिखना सीखना Anthropic API क्रेडिट्स को तेज़ी से खत्म कर देता है—हर गलत प्रॉम्प्ट या लंबा डीबगिंग सेशन खर्च बढ़ा देता है। उन डेवलपर्स के लिए जो agent loops, tool calling और context management के साथ प्रयोग कर रहे हैं, यह लागत उनकी प्रगति को रोक सकती है। यह proxy आपको वही वर्कफ़्लो बनाए रखने की अनुमति देता है लेकिन AWS क्रेडिट्स के साथ भुगतान करने की सुविधा देता है, जो आमतौर पर प्रति टोकन सस्ते होते हैं।

मौजूदा विकल्पों के साथ समस्या

  • Local models (जैसे, Ollama)। लैपटॉप या वर्कस्टेशन पर इसके जैसा मॉडल चलाने के लिए हाई-एंड RAM और GPU की आवश्यकता होती है, जो कई डेवलपर्स के पास नहीं होता।
  • Free-tier APIs (जैसे, OpenRouter)। multi-step agents का परीक्षण करते समय टोकन कैप्स (token caps) जल्दी भर जाते हैं, जिससे वापस पेड प्लान पर स्विच करना पड़ता है। दोनों ही दृष्टिकोणों में या तो महंगे हार्डवेयर की आवश्यकता होती है या एक पूर्ण agent cycle पूरा होने से पहले ही कोटा समाप्त हो जाता है।

LiteLLM proxy कैसे काम करता है

  1. Dockerised LiteLLM instance डेवलपर की मशीन या किसी सस्ते क्लाउड VM पर चलता है।
  2. Claude Code CLI proxy के local endpoint की ओर इशारा करता है, यह मानकर कि वह Anthropic से संपर्क कर रहा है।
  3. Proxy अनुरोध को Amazon Nova के API फॉर्मेट से मेल खाने के लिए फिर से लिखता है और उसे Bedrock पर भेज देता है।
  4. Nova के जवाबों को वापस उसी रूप में अनुवादित किया जाता है जिसकी CLI अपेक्षा करती है। क्योंकि CLI को कभी अंतर पता नहीं चलता, इसलिए डेवलपर उन्हीं prompts, tool-calling syntax और context-management patterns का उपयोग जारी रख सकता है जिन्हें Claude Code सपोर्ट करता है।

इसमें शामिल सुरक्षा तंत्र (Safety mechanisms)

  • कोई कृत्रिम सत्र सीमा (No artificial session limits) नहीं। Proxy, Bedrock की सीमाओं के अलावा कोई अतिरिक्त कैप नहीं लगाता है।
  • IAM restrictions। Access keys को एक ही मॉडल तक सीमित रखा जाता है, जिससे गलती से अधिक कीमत वाले विकल्पों पर स्विच होने से रोका जा सके।
  • AWS budget alerts। एक बजट नियम अकाउंट पर नज़र रखता है और यदि खर्च अप्रत्याशित रूप से बढ़ता है, तो उपयोगकर्ता को सूचित करता है। ये नियंत्रण प्रयोग को कम जोखिम भरा और पारदर्शी बनाए रखते हैं।

लागत तुलना

सार्वजनिक रूप से सूचीबद्ध Bedrock की कीमतों के आधार पर, यह proxy Anthropic के माध्यम से सीधे Claude Haiku का उपयोग करने की तुलना में 20%–35% कम खर्च प्रदान करता है। सटीक आंकड़ा एजेंट के prompts और responses के टोकन मिश्रण पर निर्भर करता है, लेकिन यह कमी सीखने के बजट में उल्लेखनीय बचत करने के लिए पर्याप्त है।

Docker image और configuration files GitHub पर निर्माता Priyanshu Valiya के नाम से उपलब्ध हैं। एक त्वरित खोज से वे artifacts प्राप्त किए जा सकते हैं जिनका उपयोग कोई भी सेटअप को दोहराने के लिए कर सकता है।

यह proxy क्या नहीं करता है

  • यह Claude के लिए मुफ्त रन नहीं है। पर्दे के पीछे का मॉडल Amazon Nova है, Claude नहीं। Nova समान reasoning और tool-calling primitives का समर्थन करता है, लेकिन इसकी आउटपुट शैली और प्रदर्शन अलग होते हैं।
  • यह प्रोडक्शन बेंचमार्क नहीं है। लाइव सर्विस के लिए Claude Code की उपयुक्तता का आकलन करने के लिए proxy का उपयोग करना भ्रामक होगा, क्योंकि अंतर्निहित मॉडल और मूल्य निर्धारण अलग होते हैं।
  • प्रोडक्शन के लिए केवल टोकन-आधारित लागत ट्रैकिंग पर्याप्त नहीं है। AWS "Bedrock Agents Classic" से "AgentCore" की ओर बढ़ रहा है। नए ऑफर में, शुल्क न केवल टोकन के लिए बल्कि agent invocation और gateway requests जैसी प्लेटफॉर्म सेवाओं के लिए भी लगते हैं। सीखने से प्रोडक्शन की ओर बढ़ने वाले डेवलपर्स को उन अतिरिक्त लाइन आइटम्स (line items) पर नज़र रखने की आवश्यकता है।

आगे क्या देखें

  • AWS AgentCore pricing updates। जैसे-जैसे प्लेटफॉर्म परिपक्व होगा, agent orchestration या request routing जैसे फीचर्स के लिए नए शुल्क दिखाई दे सकते हैं। AWS pricing पेज की जाँच करने से अप्रत्याशित बिलों से बचा जा सकता है।

निष्कर्ष (Takeaway)

Claude Code और AWS Bedrock के बीच एक LiteLLM proxy लगाकर, डेवलपर्स Anthropic के API का सीधे उपयोग करने की तुलना में 20%–35% कम लागत पर agentic coding का अभ्यास कर सकते हैं। इसके बदले में एक अलग अंतर्निहित मॉडल और सतर्क बजटिंग की आवश्यकता होती है, लेकिन मूल सीखने का अनुभव वैसा ही रहता है। tool-calling agents का पता लगाते समय क्रेडिट सीमा में फंसे किसी भी व्यक्ति के लिए, यह proxy एक व्यावहारिक, कम जोखिम वाला शॉर्टकट प्रदान करता है।