MacOS-ൽ ഒരു ലോക്കൽ കോഡിംഗ് ഏജന്റ്
ഏതൊരു Apple Silicon Mac-ലും നിങ്ങൾക്ക് ഒരു ലോക്കൽ കോഡിംഗ് ഏജന്റ് പ്രവർത്തിപ്പിക്കാം. ഈ സെറ്റപ്പ് നിങ്ങളുടെ കോഡ് സ്വകാര്യമായി സൂക്ഷിക്കുന്നു കൂടാതെ നിങ്ങളുടെ സ്വന്തം ഹാർഡ്വെയറിൽ തന്നെ പ്രവർത്തിക്കുന്നു.
ഇത് എങ്ങനെ സെറ്റ് ചെയ്യാം എന്ന് താഴെ നൽകുന്നു:
- ഡിപെൻഡൻസികൾ ഇൻസ്റ്റാൾ ചെയ്യുക നിങ്ങൾക്ക് Python ഇൻസ്റ്റാൾ ചെയ്തിരിക്കണം. MLX ലൈബ്രറികൾ ഇൻസ്റ്റാൾ ചെയ്യാൻ ഈ കമാൻഡുകൾ പ്രവർത്തിപ്പിക്കുക:
pip install mlx mlx-lm mlx-vlm
അല്ലെങ്കിൽ uv ഉപയോഗിക്കുക:
uv tool install mlx-lm && uv tool install mlx-vlm
- ഒരു മോഡൽ തിരഞ്ഞെടുക്കുക Gemma, Llama, അല്ലെങ്കിൽ Qwen പോലുള്ള മോഡലുകൾ കണ്ടെത്താൻ Hugging Face-ലെ mlx-community ഉപയോഗിക്കുക. മോഡൽ പേരുകൾ ഈ പാറ്റേൺ പിന്തുടരുന്നു: {name}-{size}-{instruction tuned}-{precision}.
തിരഞ്ഞെടുക്കാൻ ബുദ്ധിമുട്ട് നേരിടുന്നുണ്ടെങ്കിൽ, MacOS-നായി ഞാൻ നിർമ്മിച്ച ഈ ടൂൾ ഉപയോഗിക്കുക: https://github.com/ruarfff/help-pick-local-model
- ലോക്കൽ സെർവർ ആരംഭിക്കുക നിങ്ങൾ തിരഞ്ഞെടുത്ത മോഡൽ ഉപയോഗിച്ച് സെർവർ പ്രവർത്തിപ്പിക്കുക. തടസ്സങ്ങൾ ഒഴിവാക്കാൻ ഞാൻ port 7777 ആണ് ഉപയോഗിക്കുന്നത്.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
ചിത്രങ്ങളും ടെക്സ്റ്റും കൈകാര്യം ചെയ്യുന്ന മോഡലുകൾക്കായി, പകരം mlx_vlm ഉപയോഗിക്കുക:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- നിങ്ങളുടെ ടൂളുകൾ കണക്ട് ചെയ്യുക നിങ്ങളുടെ കോഡിംഗ് ഏജന്റിനെ ലോക്കൽ സെർവറിലേക്ക് കണക്ട് ചെയ്യുക.
GitHub Copilot CLI-ക്കായി: പ്രൊവൈഡർ (provider) OpenAI ആയും ബേസ് URL http://127.0.0.1:7777/v1 ആയും സെറ്റ് ചെയ്യാൻ നിങ്ങളുടെ .zshrc അല്ലെങ്കിൽ .bashrc-ൽ ഒരു ഷെൽ ഫംഗ്ഷൻ (shell function) നിർമ്മിക്കുക.
OpenCode-നായി: നിങ്ങളുടെ ലോക്കൽ MLX പ്രൊവൈഡറും മോഡൽ വിവരങ്ങളും ഉൾപ്പെടുത്തുന്നതിനായി ~/.config/opencode/opencode.json ഫയൽ അപ്ഡേറ്റ് ചെയ്യുക.
Pi-ക്കായി: ലോക്കൽ പ്രൊവൈഡർ കോൺഫിഗറേഷനോടെ ~/.pi/agent/models.json ഫയൽ അപ്ഡേറ്റ് ചെയ്യുക.
മോഡലുകൾ ലോക്കലായി പ്രവർത്തിപ്പിക്കുന്നത് നിങ്ങളുടെ ഡെവലപ്മെന്റ് എൻവയോൺമെന്റിന്മേൽ നിങ്ങൾക്ക് നിയന്ത്രണം നൽകുന്നു.
സ്രോതസ്സ്: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
ഓപ്ഷണൽ ലേണിംഗ് കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi