Ejen Pengekodan Tempatan pada macOS

Anda boleh menjalankan ejen pengekodan tempatan pada mana-mana Mac Apple Silicon. Tetapan ini memastikan kod anda kekal peribadi dan berjalan pada perkakasan anda sendiri.

Berikut adalah cara untuk menyediakannya:

  1. Pasang Dependensi Anda perlu memasang Python. Jalankan arahan ini untuk memasang pustaka MLX:

pip install mlx mlx-lm mlx-vlm

Atau gunakan uv:

uv tool install mlx-lm && uv tool install mlx-vlm

  1. Pilih Model Gunakan mlx-community di Hugging Face untuk mencari model seperti Gemma, Llama, atau Qwen. Nama model mengikut corak: {name}-{size}-{instruction tuned}-{precision}.

Jika anda sukar untuk memilih, gunakan alat yang saya bina untuk MacOS ini: https://github.com/ruarfff/help-pick-local-model

  1. Mulakan Pelayan Tempatan Jalankan pelayan menggunakan model pilihan anda. Saya menggunakan port 7777 untuk mengelakkan konflik.

mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777

Untuk model yang mengendalikan imej dan teks, gunakan mlx_vlm sebagai ganti:

mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777

  1. Sambungkan Alat Anda Halakan ejen pengekodan anda ke pelayan tempatan anda.

Untuk GitHub Copilot CLI: Cipta fungsi shell dalam .zshrc atau .bashrc anda untuk menetapkan provider kepada OpenAI dan base URL kepada http://127.0.0.1:7777/v1.

Untuk OpenCode: Kemas kini fail ~/.config/opencode/opencode.json anda untuk menyertakan butiran provider MLX tempatan dan model anda.

Untuk Pi: Kemas kini fail ~/.pi/agent/models.json anda dengan konfigurasi provider tempatan.

Menjalankan model secara tempatan memberi anda kawalan ke atas persekitaran pembangunan anda.

Sumber: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi