Lokalny agent programistyczny na macOS
Możesz uruchomić lokalnego agenta programistycznego na dowolnym komputerze Mac z procesorem Apple Silicon. Taka konfiguracja zapewnia prywatność Twojego kodu i działa na własnym sprzęcie.
Oto jak go skonfigurować:
- Zainstaluj zależności Musisz mieć zainstalowanego Pythona. Uruchom poniższe polecenia, aby zainstalować biblioteki MLX:
pip install mlx mlx-lm mlx-vlm
Lub użyj uv:
uv tool install mlx-lm && uv tool install mlx-vlm
- Wybierz model Skorzystaj z mlx-community na Hugging Face, aby znaleźć modele takie jak Gemma, Llama czy Qwen. Nazwy modeli podążają za schematem: {name}-{size}-{instruction tuned}-{precision}.
Jeśli masz trudności z wyborem, skorzystaj z narzędzia, które stworzyłem dla macOS: https://github.com/ruarfff/help-pick-local-model
- Uruchom lokalny serwer Uruchom serwer, korzystając z wybranego modelu. Używam portu 7777, aby uniknąć konfliktów.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
W przypadku modeli obsługujących obrazy i tekst, użyj zamiast tego mlx_vlm:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- Podłącz swoje narzędzia Skieruj swojego agenta programistycznego na lokalny serwer.
Dla GitHub Copilot CLI: Utwórz funkcję powłoki w pliku .zshrc lub .bashrc, aby ustawić dostawcę na OpenAI, a adres URL podstawowy na http://127.0.0.1:7777/v1.
Dla OpenCode: Zaktualizuj plik ~/.config/opencode/opencode.json, aby zawierał szczegóły lokalnego dostawcy MLX oraz modelu.
Dla Pi: Zaktualizuj plik ~/.pi/agent/models.json, dodając konfigurację lokalnego dostawcy.
Uruchamianie modeli lokalnie daje Ci pełną kontrolę nad środowiskiem programistycznym.
Źródło: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi