𝗟𝗼𝗰𝗮𝗹 𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁 𝗼𝗻 𝗠𝗮𝗰𝗢𝗦
Unaweza kuendesha wakala wa coding wa ndani kwenye Mac yoyote ya Apple Silicon. Mpangilio huu unaweka kodi yako kuwa ya siri na huendesha kwenye kifaa chako mwenyewe.
Hivi ndivyo unavyoweza kuusanikisha:
- Sakinisha Mahitaji (Dependencies) Unahitaji Python iwe imesakinishwa. Endesha amri hizi ili kusakinisha maktaba za MLX:
pip install mlx mlx-lm mlx-vlm
Au tumia uv:
uv tool install mlx-lm && uv tool install mlx-vlm
- Chagua Model Tumia mlx-community kwenye Hugging Face kupata model kama Gemma, Llama, au Qwen. Majina ya model hufuata mfumo huu: {name}-{size}-{instruction tuned}-{precision}.
Ikiwa unapata shida kuchagua, tumia zana hii niliyotengeneza kwa ajili ya MacOS: https://github.com/ruarfff/help-pick-local-model
- Anzisha Seva ya Ndani (Local Server) Endesha seva ukitumia model uliyochagua. Mimi hutumia port 7777 ili kuepuka migongano.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
Kwa model zinazoshughulikia picha na maandishi, tumia mlx_vlm badala yake:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- Unganisha Zana Zako Elekeza wakala wako wa coding kwenye seva yako ya ndani.
Kwa GitHub Copilot CLI: Tengeneza function ya shell kwenye .zshrc au .bashrc ili kuweka provider kuwa OpenAI na base URL kuwa http://127.0.0.1:7777/v1.
Kwa OpenCode: Sasisha faili yako ya ~/.config/opencode/opencode.json ili kujumuisha maelezo ya provider wako wa MLX wa ndani na model.
Kwa Pi: Sasisha faili yako ya ~/.pi/agent/models.json kwa mpangilio wa provider wa ndani.
Kuendesha model ndani kunakupa udhibiti juu ya mazingira yako ya uendelezaji.
Chanzo: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
Jumuiya ya kujifunzia ya hiari: https://t.me/GyaanSetuAi