Mac OS पर लोकल कोडिंग एजेंट
आप किसी भी Apple Silicon Mac पर लोकल कोडिंग एजेंट चला सकते हैं। यह सेटअप आपके कोड को निजी रखता है और आपके अपने हार्डवेयर पर चलता है।
इसे सेटअप करने का तरीका यहाँ दिया गया है:
- डिपेंडेंसीज़ (Dependencies) इंस्टॉल करें आपके पास Python इंस्टॉल होना चाहिए। MLX लाइब्रेरीज़ इंस्टॉल करने के लिए ये कमांड चलाएँ:
pip install mlx mlx-lm mlx-vlm
या uv का उपयोग करें:
uv tool install mlx-lm && uv tool install mlx-vlm
- एक मॉडल चुनें Gemma, Llama, या Qwen जैसे मॉडल खोजने के लिए Hugging Face पर mlx-community का उपयोग करें। मॉडल के नाम एक पैटर्न का पालन करते हैं: {name}-{size}-{instruction tuned}-{precision}।
यदि आपको चुनने में परेशानी हो रही है, तो मेरे द्वारा MacOS के लिए बनाए गए इस टूल का उपयोग करें: https://github.com/ruarfff/help-pick-local-model
- लोकल सर्वर शुरू करें अपने चुने हुए मॉडल का उपयोग करके सर्वर चलाएँ। टकराव (conflicts) से बचने के लिए मैं पोर्ट 7777 का उपयोग करता हूँ।
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
उन मॉडल्स के लिए जो इमेज और टेक्स्ट को हैंडल करते हैं, इसके बजाय mlx_vlm का उपयोग करें:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- अपने टूल्स को कनेक्ट करें अपने कोडिंग एजेंट को अपने लोकल सर्वर की ओर पॉइंट करें।
GitHub Copilot CLI के लिए: प्रोवाइडर को OpenAI पर और बेस URL को http://127.0.0.1:7777/v1 पर सेट करने के लिए अपनी .zshrc या .bashrc में एक शेल फ़ंक्शन बनाएँ।
OpenCode के लिए: अपने स्थानीय MLX प्रोवाइडर और मॉडल विवरण को शामिल करने के लिए अपनी ~/.config/opencode/opencode.json फ़ाइल को अपडेट करें।
Pi के लिए: लोकल प्रोवाइडर कॉन्फ़िगरेशन के साथ अपनी ~/.pi/agent/models.json फ़ाइल को अपडेट करें।
मॉडल्स को लोकल पर चलाने से आपको अपने डेवलपमेंट एनवायरनमेंट पर नियंत्रण मिलता है।
स्रोत: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
वैकल्पिक लर्निंग कम्युनिटी: https://t.me/GyaanSetuAi