Mac OS वरील लोकल कोडिंग एजंट
तुम्ही कोणत्याही Apple Silicon Mac वर लोकल कोडिंग एजंट चालवू शकता. ही सेटअप तुमची कोड प्रायव्हेट ठेवते आणि तुमच्या स्वतःच्या हार्डवेअरवर चालते.
हे सेट करण्यासाठी खालील पायऱ्या फॉलो करा:
- डिपेंडेंसीज (Dependencies) इन्स्टॉल करा तुमच्याकडे Python इन्स्टॉल असणे आवश्यक आहे. MLX लायब्ररीज इन्स्टॉल करण्यासाठी या कमांड्स चालवा:
pip install mlx mlx-lm mlx-vlm
किंवा uv वापरा:
uv tool install mlx-lm && uv tool install mlx-vlm
- मॉडेल निवडा Gemma, Llama, किंवा Qwen सारखी मॉडेल्स शोधण्यासाठी Hugging Face वरील mlx-community वापरा. मॉडेलची नावे एका विशिष्ट पॅटर्ननुसार असतात: {name}-{size}-{instruction tuned}-{precision}.
जर तुम्हाला निवड કરવામાં अडचण येत असेल, तर मी MacOS साठी तयार केलेले हे टूल वापरा: https://github.com/ruarfff/help-pick-local-model
- लोकल सर्व्हर सुरू करा तुमच्या निवडलेल्या मॉडेलचा वापर करून सर्व्हर चालवा. कॉन्फ्लिक्ट्स (conflicts) टाळण्यासाठी मी पोर्ट 7777 वापरतो.
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
इमेज आणि टेक्स्ट हाताळणाऱ्या मॉडेल्ससाठी, त्याऐवजी mlx_vlm वापरा:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- तुमची टूल्स कनेक्ट करा तुमच्या कोडिंग एजंटला तुमच्या लोकल सर्व्हरकडे निर्देशित करा.
GitHub Copilot CLI साठी: प्रोव्हायडर (provider) OpenAI वर सेट करण्यासाठी आणि बेस URL http://127.0.0.1:7777/v1 वर सेट करण्यासाठी तुमच्या .zshrc किंवा .bashrc मध्ये एक शेल फंक्शन तयार करा.
OpenCode साठी: तुमच्या स्थानिक MLX प्रोव्हायडर आणि मॉडेल तपशील समाविष्ट करण्यासाठी तुमची ~/.config/opencode/opencode.json फाईल अपडेट करा.
Pi साठी: स्थानिक प्रोव्हायडर कॉन्फिगरेशनसह तुमची ~/.pi/agent/models.json फाईल अपडेट करा.
मॉडेल्स लोकलवर चालवल्यामुळे तुम्हाला तुमच्या डेव्हलपमेंट एन्व्हायरनमेंटवर (development environment) नियंत्रण मिळते.
स्रोत: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi