Claude Code-ஐ இப்போது Anthropic-க்கு டெவலப்பர்கள் வழக்கமாகச் செலுத்தும் விலையை விட மிகக் குறைந்த விலையில் AWS Bedrock மூலம் இயக்க முடியும். ஒரு டெவலப்பர் ஒரு self-hosted LiteLLM proxy-ஐ உருவாக்கியுள்ளார். இது Claude Code CLI ஆனது Anthropic உடன் பேசுவதாகக் கருதும் வகையில் செயல்படும், ஆனால் உண்மையில் கோரிக்கைகள் (requests) Bedrock-இல் உள்ள Amazon-இன் Nova மாடலுக்கு அனுப்பப்படும். இது கற்றல் கட்டத்தில் (learning-phase) ஏற்படும் செலவை 20%–35% வரை குறைக்கிறது.
இந்த proxy ஏன் முக்கியமானது
Claude Code மூலம் “agentic” குறியீடுகளை (code) எழுதக் கற்றுக்கொள்வது Anthropic API கிரெடிட்களை (credits) வேகமாகத் தீர்த்துவிடும்—ஒவ்வொரு தவறான ப்ராம்ப்ட் (mis-prompt) அல்லது நீண்ட டீபக்கிங் (debugging) அமர்வும் செலவை அதிகரிக்கும். Agent loops, tool calling மற்றும் context management ஆகியவற்றைப் பரிசோதிக்கும் டெவலப்பர்களுக்கு, இந்தச் செலவு முன்னேற்றத்தைத் தடுக்கக்கூடும். இந்த proxy மூலம் நீங்கள் அதே பணிப்பாய்வை (workflow) தொடரலாம், ஆனால் வழக்கமாக ஒரு டோக்கனுக்கு (token) விலை குறைவாக இருக்கும் AWS credits மூலம் பணம் செலுத்தலாம்.
தற்போதுள்ள விருப்பங்களில் உள்ள சிக்கல்கள்
- Local models (எ.கா., Ollama). ஒரு லேப்டாப் அல்லது வொர்க்ஸ்டேஷனில் (workstation) இணையான ஒரு மாடலை இயக்குவதற்கு அதிக திறன் கொண்ட RAM மற்றும் GPU தேவைப்படும், இது பல டெவலப்பர்களிடம் இருக்காது.
- Free-tier APIs (எ.கா., OpenRouter). பல நிலைகளைக் கொண்ட ஏஜென்ட்களை (multi-step agents) சோதிக்கும்போது, டோக்கன் வரம்புகள் (token caps) விரைவாகத் தீர்ந்துவிடும், இதனால் கட்டணத் திட்டங்களுக்கு (paid plans) மாற வேண்டிய கட்டாயம் ஏற்படும்.
இந்த இரண்டு அணுகுமுறைகளும் ஒன்று அதிக விலை கொண்ட வன்பொருளை (hardware) கோருகின்றன அல்லது ஒரு முழுமையான ஏஜென்ட் சுழற்சியை (agent cycle) முடிப்பதற்கு முன்பே ஒதுக்கீடு (quota) தீர்ந்துவிடுகிறது.
LiteLLM proxy எவ்வாறு செயல்படுகிறது
- Dockerised LiteLLM instance ஒரு டெவலப்பரின் கணினி அல்லது மலிவான cloud VM-இல் இயங்கும்.
- Claude Code CLI ஆனது தான் Anthropic-ஐத் தொடர்பு கொள்வதாக நம்பி, proxy-இன் local endpoint-ஐ நோக்கிச் செயல்படும்.
- Proxy ஆனது கோரிக்கையை (request) Amazon Nova-இன் API வடிவத்திற்கு ஏற்ப மாற்றி, அதை Bedrock-க்கு அனுப்பும்.
- Nova-இன் பதில்கள் CLI எதிர்பார்க்கும் வடிவத்திற்கு மீண்டும் மாற்றப்படும்.
CLI-க்கு இந்த வித்தியாசம் தெரியாததால், டெவலப்பர்கள் Claude Code ஆதரிக்கும் அதே prompts, tool-calling syntax மற்றும் context-management முறைகளைத் தொடர்ந்து பயன்படுத்தலாம்.
உள்ளமைக்கப்பட்ட பாதுகாப்பு வழிமுறைகள் (Safety mechanisms)
- செயற்கையான session வரம்புகள் இல்லை. Bedrock-இன் வரம்புகளைத் தவிர proxy கூடுதல் வரம்புகளை விதிக்காது.
- IAM கட்டுப்பாடுகள். Access keys ஒரு குறிப்பிட்ட மாடலுடன் இணைக்கப்படுவதால், தவறுதலாக அதிக விலை கொண்ட விருப்பங்களுக்கு மாறுவது தடுக்கப்படுகிறது.
- AWS budget alerts. ஒரு budget rule கணக்கைக் கண்காணிக்கும் மற்றும் செலவு எதிர்பாராத விதமாக அதிகரித்தால் பயனருக்குத் தெரிவிக்கும்.
இந்தக் கட்டுப்பாடுகள் சோதனையை குறைந்த அபாயத்துடனும் (low-risk) வெளிப்படையாகவும் வைக்கின்றன.
செலவு ஒப்பீடு
பகிரங்கமாக வெளியிடப்பட்ட Bedrock விலையின் அடிப்படையில், Anthropic மூலம் நேரடியாக Claude Haiku-வைப் பயன்படுத்துவதை விட, இந்த proxy 20%–35% குறைவான செலவை வழங்குகிறது. துல்லியமான அளவு ஏஜென்ட்டின் prompts மற்றும் பதில்களின் டோக்கன் கலவையைப் பொறுத்தது, ஆனால் கற்றல் பட்ஜெட்டில் (learning budget) குறிப்பிடத்தக்க மாற்றத்தை ஏற்படுத்தும் அளவுக்கு இந்தத் தள்ளுபடி சீராக உள்ளது.
Docker image மற்றும் configuration கோப்புகள் GitHub-இல் அதன் உருவாக்குநரான Priyanshu Valiya என்பவரின் பெயரில் உள்ளன. ஒரு விரைவான தேடல் மூலம், எவரும் இந்த அமைப்பை (setup) மீண்டும் உருவாக்கத் தேவையான கோப்புகளைப் பதிவிறக்கம் செய்யலாம்.
இந்த proxy செய்யாதவை
- இது Claude-க்கான இலவசப் பயன்பாடு அல்ல. இதன் பின்னணியில் உள்ள மாடல் Amazon Nova, Claude அல்ல. Nova ஒத்த reasoning மற்றும் tool-calling வசதிகளை ஆதரிக்கிறது, ஆனால் அதன் வெளியீட்டு முறை (output style) மற்றும் செயல்திறன் மாறுபடும்.
- இது ஒரு production benchmark அல்ல. ஒரு நேரடிச் சேவைக்கு (live service) Claude Code-இன் பொருத்தத்தை மதிப்பிட இந்த proxy-ஐப் பயன்படுத்துவது தவறான முடிவுக்கு இட்டுச்செல்லும், ஏனெனில் அதன் அடிப்படை மாடல் மற்றும் விலை மாறுபடுகின்றன.
- Production-க்கு டோக்கன் சார்ந்த செலவு கண்காணிப்பு மட்டும் போதுமானதல்ல. AWS, “Bedrock Agents Classic”-லிருந்து “AgentCore”-க்கு மாறி வருகிறது. புதிய சேவையில், டோக்கன்களுக்கு மட்டுமல்லாமல், agent invocation மற்றும் gateway requests போன்ற பிளாட்ஃபார்ம் சேவைகளுக்கும் கட்டணம் வசூலிக்கப்படும். கற்றல் நிலையிலிருந்து production நிலைக்கு மாறும் டெவலப்பர்கள் இந்த கூடுதல் செலவுகளைக் கவனிக்க வேண்டும்.
அடுத்து கவனிக்க வேண்டியவை
- AWS AgentCore pricing updates. பிளாட்ஃபார்ம் வளர்ச்சியடையும் போது, agent orchestration அல்லது request routing போன்ற அம்சங்களுக்குப் புதிய கட்டணங்கள் வரலாம். AWS pricing பக்கத்தைச் சரிபார்ப்பது எதிர்பாராத இன்வாய்ஸ்களைத் (invoices) தவிர்க்க உதவும்.
சுருக்கம் (Takeaway)
Claude Code மற்றும் AWS Bedrock ஆகியவற்றுக்கு இடையில் ஒரு LiteLLM proxy-ஐப் பயன்படுத்துவதன் மூலம், டெவலப்பர்கள் Anthropic API-ஐ நேரடியாகப் பயன்படுத்துவதை விட 20%–35% குறைவான செலவில் agentic coding-ஐப் பயிற்சி செய்யலாம். இதன் சவாலாக (trade-off) வேறுபட்ட அடிப்படை மாடல் மற்றும் விழிப்புணர்வுடன் கூடிய பட்ஜெட் மேலாண்மை ஆகியவை இருந்தாலும், அடிப்படை கற்றல் அனுபவம் அப்படியே இருக்கும். Tool-calling ஏஜென்ட்களை ஆராயும்போது கிரெடிட் வரம்பில் (credit ceiling) சிக்கிக்கொண்டிருப்பவர்களுக்கு, இந்த proxy ஒரு நடைமுறைக்கு ஏற்ற, குறைந்த அபாயமுள்ள குறுக்குவழியாக அமையும்.