Claude Code sasa inaweza kuendeshwa kupitia AWS Bedrock kwa sehemu ndogo ya bei ambayo watengenezaji kwa kawaida hulipa kwa Anthropic. Mtengenezaji mmoja ameunda proxy ya LiteLLM inayojiendesha (self-hosted) ambayo inafanya Claude Code CLI idhani inazungumza na Anthropic wakati maombi (requests) kwa kweli yanaelekezwa kwenye modeli ya Amazon Nova kwenye Bedrock, hivyo kupunguza matumizi wakati wa hatua ya kujifunza kwa 20%–35%.

Kwa nini proxy hii ni muhimu

Kujifunza kuandika kodi za "agentic" kwa kutumia Claude Code hutumia salio la API za Anthropic kwa haraka—kila hitilafu ya maelekezo (mis-prompt) au kikao kirefu cha kutatua hitilafu (debugging) huongeza gharama. Kwa watengenezaji wanaojaribu mifumo ya agent loops, tool calling, na usimamizi wa muktadha (context management), gharama hiyo inaweza kukwamisha maendeleo. Proxy inakuwezesha kuendelea na mtindo ule ule wa kazi lakini unalipa kwa kutumia salio la AWS, ambalo kwa kawaida ni rahisi zaidi kwa kila token.

Tatizo la chaguzi zilizopo sasa

  • Model za ndani (mfano, Ollama). Kuendesha modeli inayolingana kwenye laptop au workstation kunahitaji RAM ya hali ya juu na GPU, ambazo watengenezaji wengi hawana.
  • API za kiwango cha bure (mfano, OpenRouter). Kikomo cha token (token caps) hujaa haraka unapotumia mawakala wa hatua nyingi (multi-step agents), jambo linalolazimisha kurudi kwenye mipango ya kulipia. Njia zote mbili ama zinahitaji vifaa vya gharama kubwa au zinakosa kiasi cha matumizi (quota) kabla ya mzunguko kamili wa agent kukamilika.

Jinsi proxy ya LiteLLM inavyofanya kazi

  1. Nakala ya LiteLLM iliyowekwa kwenye Docker huendeshwa kwenye mashine ya mtengenezaji au VM ya wingu (cloud VM) ya bei rahisi.
  2. Claude Code CLI inaelekezwa kwenye endpoint ya ndani ya proxy, ikiamini inawasiliana na Anthropic.
  3. Proxy inarekebisha ombi (request) ili liling