MacOS ನಲ್ಲಿ ಲೋಕಲ್ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್
ನೀವು ಯಾವುದೇ Apple Silicon Mac ನಲ್ಲಿ ಲೋಕಲ್ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು ರನ್ ಮಾಡಬಹುದು. ಈ ಸೆಟಪ್ ನಿಮ್ಮ ಕೋಡ್ ಅನ್ನು ಗೌಪ್ಯವಾಗಿಡುತ್ತದೆ ಮತ್ತು ನಿಮ್ಮ ಸ್ವಂತ ಹಾರ್ಡ್ವೇರ್ನಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.
ಇದನ್ನು ಸೆಟಪ್ ಮಾಡುವುದು ಹೇಗೆ ಎಂಬುದು ಇಲ್ಲಿದೆ:
- ಅವಲಂಬನೆಗಳನ್ನು (Dependencies) ಇನ್ಸ್ಟಾಲ್ ಮಾಡಿ ನಿಮಗೆ Python ಇನ್ಸ್ಟಾಲ್ ಆಗಿರಬೇಕು. MLX ಲೈಬ್ರರಿಗಳನ್ನು ಇನ್ಸ್ಟಾಲ್ ಮಾಡಲು ಈ ಕಮಾಂಡ್ಗಳನ್ನು ರನ್ ಮಾಡಿ:
pip install mlx mlx-lm mlx-vlm
ಅಥವಾ uv ಬಳಸಿ:
uv tool install mlx-lm && uv tool install mlx-vlm
- ಮಾಡೆಲ್ ಅನ್ನು ಆಯ್ಕೆ ಮಾಡಿ Gemma, Llama, ಅಥವಾ Qwen ನಂತಹ ಮಾಡೆಲ್ಗಳನ್ನು ಹುಡುಕಲು Hugging Face ನಲ್ಲಿರುವ mlx-community ಅನ್ನು ಬಳಸಿ. ಮಾಡೆಲ್ ಹೆಸರುಗಳು ಈ ಮಾದರಿಯನ್ನು ಅನುಸರಿಸುತ್ತವೆ: {name}-{size}-{instruction tuned}-{precision}.
ನಿಮಗೆ ಆಯ್ಕೆ ಮಾಡಲು ಕಷ್ಟವಾಗುತ್ತಿದ್ದರೆ, ನಾನು MacOS ಗಾಗಿ ತಯಾರಿಸಿದ ಈ ಟೂಲ್ ಬಳಸಿ: https://github.com/ruarfff/help-pick-local-model
- ಲೋಕಲ್ ಸರ್ವರ್ ಅನ್ನು ಪ್ರಾರಂಭಿಸಿ ನೀವು ಆಯ್ಕೆ ಮಾಡಿದ ಮಾಡೆಲ್ ಬಳಸಿ ಸರ್ವರ್ ಅನ್ನು ರನ್ ಮಾಡಿ. ಸಂಘರ್ಷಗಳನ್ನು (conflicts) ತಪ್ಪಿಸಲು ನಾನು ಪೋರ್ಟ್ 7777 ಅನ್ನು ಬಳಸುತ್ತೇನೆ.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
ಚಿತ್ರ ಮತ್ತು ಪಠ್ಯವನ್ನು ನಿರ್ವಹಿಸುವ ಮಾಡೆಲ್ಗಳಿಗಾಗಿ, ಬದಲಿಗೆ mlx_vlm ಬಳಸಿ:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- ನಿಮ್ಮ ಟೂಲ್ಗಳನ್ನು ಕನೆಕ್ಟ್ ಮಾಡಿ ನಿಮ್ಮ ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು ನಿಮ್ಮ ಲೋಕಲ್ ಸರ್ವರ್ಗೆ ಪಾಯಿಂಟ್ ಮಾಡಿ.
GitHub Copilot CLI ಗಾಗಿ: ಪ್ರೊವೈಡರ್ ಅನ್ನು OpenAI ಗೆ ಮತ್ತು ಬೇಸ್ URL ಅನ್ನು http://127.0.0.1:7777/v1 ಗೆ ಸೆಟ್ ಮಾಡಲು ನಿಮ್ಮ .zshrc ಅಥವಾ .bashrc ನಲ್ಲಿ ಒಂದು ಶೆಲ್ ಫಂಕ್ಷನ್ ಅನ್ನು ರಚಿಸಿ.
OpenCode ಗಾಗಿ: ನಿಮ್ಮ ಲೋಕಲ್ MLX ಪ್ರೊವೈಡರ್ ಮತ್ತು ಮಾಡೆಲ್ ವಿವರಗಳನ್ನು ಸೇರಿಸಲು ನಿಮ್ಮ ~/.config/opencode/opencode.json ಫೈಲ್ ಅನ್ನು ಅಪ್ಡೇಟ್ ಮಾಡಿ.
Pi ಗಾಗಿ: ಲೋಕಲ್ ಪ್ರೊವೈಡರ್ ಕಾನ್ಫಿಗರೇಶನ್ನೊಂದಿಗೆ ನಿಮ್ಮ ~/.pi/agent/models.json ಫೈಲ್ ಅನ್ನು ಅಪ್ಡೇಟ್ ಮಾಡಿ.
ಮಾಡೆಲ್ಗಳನ್ನು ಲೋಕಲ್ ಆಗಿ ರನ್ ಮಾಡುವುದು ನಿಮ್ಮ ಡೆವಲಪ್ಮೆಂಟ್ ಎನ್ವಿರಾನ್ಮೆಂಟ್ ಮೇಲೆ ನಿಮಗೆ ನಿಯಂತ್ರಣವನ್ನು ನೀಡುತ್ತದೆ.
ಮೂಲ (Source): https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
ಐಚ್ಛಿಕ ಕಲಿಕಾ ಸಮುದಾಯ: https://t.me/GyaanSetuAi