Локальный агент для кодинга на macOS
Вы можете запустить локального агента для кодинга на любом Mac с чипом Apple Silicon. Такая настройка обеспечивает приватность вашего кода и работает на вашем собственном оборудовании.
Вот как это настроить:
- Установка зависимостей Вам понадобится установленный Python. Выполните следующие команды для установки библиотек MLX:
pip install mlx mlx-lm mlx-vlm
Или используйте uv:
uv tool install mlx-lm && uv tool install mlx-vlm
- Выбор модели Используйте mlx-community на Hugging Face, чтобы найти такие модели, как Gemma, Llama или Qwen. Названия моделей следуют шаблону: {name}-{size}-{instruction tuned}-{precision}.
Если вам трудно выбрать, воспользуйтесь этим инструментом, который я создал для macOS: https://github.com/ruarfff/help-pick-local-model
- Запуск локального сервера Запустите сервер, используя выбранную модель. Я использую порт 7777, чтобы избежать конфликтов.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
Для моделей, которые работают с изображениями и текстом, используйте вместо этого mlx_vlm:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- Подключение инструментов Укажите вашему агенту для кодинга адрес вашего локального сервера.
Для GitHub Copilot CLI: Создайте shell-функцию в вашем .zshrc или .bashrc, чтобы установить провайдера (provider) на OpenAI, а базовый URL (base URL) — на http://127.0.0.1:7777/v1.
Для OpenCode: Обновите файл ~/.config/opencode/opencode.json, добавив сведения о вашем локальном MLX-провайдере и модели.
Для Pi: Обновите файл ~/.pi/agent/models.json конфигурацией локального провайдера.
Локальный запуск моделей дает вам контроль над вашей средой разработки.
Источник: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi