𝗥𝘂𝗻𝗻𝗶𝗻𝗴 𝗔 𝗟𝗼𝗰𝗮𝗹 𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁 𝗼𝗻 𝗮 𝗠𝗮𝗰 𝗠𝗶𝗻𝗶

𝗥𝘂𝗻𝗻𝗶𝗻𝗴 𝗔 𝗟𝗼𝗰𝗮𝗹 𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁 𝗼𝗻 𝗮 𝗠𝗮𝗰 𝗠𝗶𝗻𝗶

நான் குறைந்த முக்கியத்துவம் வாய்ந்த பணிகளுக்காக (low-stakes tasks) ஒரு local coding agent-ஐப் பயன்படுத்துகிறேன். இது file edits, test fixes மற்றும் build verification போன்றவற்றைச் செய்கிறது. மேலும், இது Playwright சோதனைகளை எழுதுகிறது, code-ஐ மதிப்பாய்வு செய்கிறது மற்றும் deploy செய்கிறது.

இந்த அமைப்பு 24 GB RAM கொண்ட Mac Mini M4-இல் இயங்குகிறது. கோடிங் பணிகளுக்காக நான் cloud API-களைப் பயன்படுத்துவதில்லை. திட்டமிடல் (planning) மற்றும் ரூட்டிங் (routing) ஆகியவற்றிற்கு மட்டுமே ஒரு மலிவான cloud model-ஐப் பயன்படுத்துகிறேன். Pi என்ற பெயருடைய coding agent உண்மையான file editing பணிகளைக் கையாள்கிறது. இது ஒரு local LLM server ஆன oMLX உடன் இணைகிறது.

OpenAI-க்கு இணக்கமான (compatible) API-ஐப் பயன்படுத்தும் எந்தவொரு agent-உடனும் இந்த அமைப்பு வேலை செய்யும். நீங்கள் இதே oMLX server-உடன் Claude Code அல்லது Codex ஆகியவற்றைப் பயன்படுத்தலாம்.

நான் இரண்டு models பயன்படுத்துகிறேன் மற்றும் பணிகளின் அடிப்படையில் அவற்றை மாற்றிக்கொள்கிறேன் (swap). 24 GB RAM வரம்பு இருப்பதால், இரண்டையும் ஒரே நேரத்தில் இயக்க முடியாது.

• முதன்மை கோடிங் மாடல் (Primary coding model): 9B class, வினாடிக்கு 20 tokens வேகத்தில்.
• வேகமான மாடல் (Fast model): விரைவான திருத்தங்களுக்காக (quick fixes) 4B class, வினாடிக்கு 27 tokens வேகத்தில்.

ஒரு swap script ஒரு மாடலை வெளியேற்றிவிட்டு மற்றொன்றை உள்ளே கொண்டுவருகிறது. இந்தச் செயல்முறை 5 வினாடிகள் எடுக்கும்.

இந்த ஏஜென்ட் பின்வரும் பணிகளைச் செய்கிறது:

• File edits