macOS용 로컬 코딩 에이전트

모든 Apple Silicon Mac에서 로컬 코딩 에이전트를 실행할 수 있습니다. 이 설정을 통해 코드를 비공개로 유지하면서 본인의 하드웨어에서 직접 실행할 수 있습니다.

설정 방법은 다음과 같습니다:

  1. 종속성 설치 Python이 설치되어 있어야 합니다. 다음 명령어를 실행하여 MLX 라이브러리를 설치하세요:

pip install mlx mlx-lm mlx-vlm

또는 uv를 사용하세요:

uv tool install mlx-lm && uv tool install mlx-vlm

  1. 모델 선택 Hugging Face의 mlx-community를 사용하여 Gemma, Llama 또는 Qwen과 같은 모델을 찾아보세요. 모델 이름은 {name}-{size}-{instruction tuned}-{precision} 패턴을 따릅니다.

모델 선택이 어렵다면, 제가 macOS용으로 만든 이 도구를 사용해 보세요: https://github.com/ruarfff/help-pick-local-model

  1. 로컬 서버 시작 선택한 모델을 사용하여 서버를 실행합니다. 충돌을 피하기 위해 포트 7777을 사용합니다.

mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777

이미지와 텍스트를 모두 처리하는 모델의 경우, 대신 mlx_vlm을 사용하세요:

mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777

  1. 도구 연결 코딩 에이전트가 로컬 서버를 가리키도록 설정하세요.

GitHub Copilot CLI의 경우: .zshrc 또는 .bashrc 파일에 shell 함수를 생성하여 provider를 OpenAI로, base URL을 http://127.0.0.1:7777/v1로 설정하세요.

OpenCode의 경우: ~/.config/opencode/opencode.json 파일을 업데이트하여 로컬 MLX provider 및 모델 세부 정보를 포함하세요.

Pi의 경우: ~/.pi/agent/models.json 파일을 로컬 provider 설정으로 업데이트하세요.

모델을 로컬에서 실행하면 개발 환경을 직접 제어할 수 있습니다.

출처: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga

선택 사항 학습 커뮤니티: https://t.me/GyaanSetuAi