Локальний кодинг-агент на macOS
Ви можете запустити локального кодинг-агента на будь-якому Mac з Apple Silicon. Така конфігурація забезпечує приватність вашого коду та працює на вашому власному обладнанні.
Ось як це налаштувати:
- Встановлення залежностей Вам потрібно мати встановлений Python. Виконайте ці команди, щоб встановити бібліотеки MLX:
pip install mlx mlx-lm mlx-vlm
Або використовуйте uv:
uv tool install mlx-lm && uv tool install mlx-vlm
- Вибір моделі Використовуйте mlx-community на Hugging Face, щоб знайти такі моделі, як Gemma, Llama або Qwen. Назви моделей відповідають шаблону: {name}-{size}-{instruction tuned}-{precision}.
Якщо вам важко зробити вибір, скористайтеся цим інструментом, який я створив для macOS: https://github.com/ruarfff/help-pick-local-model
- Запуск локального сервера Запустіть сервер, використовуючи обрану модель. Я використовую порт 7777, щоб уникнути конфліктів.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
Для моделей, що працюють із зображеннями та текстом, використовуйте замість цього mlx_vlm:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- Підключення інструментів Спрямуйте вашого кодинг-агента на ваш локальний сервер.
Для GitHub Copilot CLI: Створіть shell-функцію у вашому .zshrc або .bashrc, щоб встановити провайдера (provider) на OpenAI, а базову URL-адресу (base URL) на http://127.0.0.1:7777/v1.
Для OpenCode: Оновіть файл ~/.config/opencode/opencode.json, щоб додати дані вашого локального MLX-провайдера та моделі.
Для Pi: Оновіть файл ~/.pi/agent/models.json конфігурацією локального провайдера.
Запуск моделей локально дає вам контроль над вашим середовищем розробки.
Джерело: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi