𝗟𝗼𝗰𝗮𝗹 𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁 𝗼𝗻 𝗠𝗮𝗰𝗢𝗦
آپ کسی بھی Apple Silicon Mac پر لوکل کوڈنگ ایجنٹ چلا سکتے ہیں۔ یہ سیٹ اپ آپ کے کوڈ کو نجی رکھتا ہے اور آپ کے اپنے ہارڈ ویئر پر چلتا ہے۔
اسے سیٹ اپ کرنے کا طریقہ یہ ہے:
- Dependencies انسٹال کریں آپ کے پاس Python انسٹال ہونا چاہیے۔ MLX لائبریریز انسٹال کرنے کے لیے یہ کمانڈز چلائیں:
pip install mlx mlx-lm mlx-vlm
یا uv استعمال کریں:
uv tool install mlx-lm && uv tool install mlx-vlm
- ایک ماڈل منتخب کریں Gemma، Llama، یا Qwen جیسے ماڈلز تلاش کرنے کے لیے Hugging Face پر mlx-community کا استعمال کریں۔ ماڈل کے نام ایک خاص پیٹرن پر ہوتے ہیں: {name}-{size}-{instruction tuned}-{precision}۔
اگر آپ کو انتخاب کرنے میں مشکل ہو رہی ہے، تو میرے بنائے ہوئے اس ٹول کا استعمال کریں جو میں نے MacOS کے لیے بنایا ہے: https://github.com/ruarfff/help-pick-local-model
- لوکل سرور شروع کریں اپنے منتخب کردہ ماڈل کا استعمال کرتے ہوئے سرور چلائیں۔ میں تصادم (conflicts) سے بچنے کے لیے پورٹ 7777 استعمال کرتا ہوں۔
mlx_lm.server --model mlx-community/gemma-4-26B-A4B-it-OptiQ-4bit --port 7777
ان ماڈلز کے لیے جو تصاویر اور متن (text) کو ہینڈل کرتے ہیں، اس کے بجائے mlx_vlm استعمال کریں:
mlx_vlm.server --model mlx-community/gemma-4-12B-it-OptiQ-4bit --port 7777
- اپنے ٹولز کو منسلک کریں اپنے کوڈنگ ایجنٹ کو اپنے لوکل سرور کی طرف اشارہ (point) کریں۔
GitHub Copilot CLI کے لیے:
اپنے .zshrc یا .bashrc میں ایک شیل فنکشن بنائیں تاکہ provider کو OpenAI اور base URL کو http://127.0.0.1:7777/v1 پر سیٹ کیا جا سکے۔
OpenCode کے لیے:
اپنی ~/.config/opencode/opencode.json فائل کو اپ ڈیٹ کریں تاکہ اس میں آپ کے لوکل MLX provider اور ماڈل کی تفصیلات شامل ہو سکیں۔
Pi کے لیے:
اپنی ~/.pi/agent/models.json فائل کو لوکل provider کنفیگریشن کے ساتھ اپ ڈیٹ کریں۔
ماڈلز کو لوکل طور پر چلانے سے آپ کو اپنے ڈویلپمنٹ ماحول (development environment) پر مکمل کنٹرول ملتا ہے۔
ماخذ: https://dev.to/ruarfff/local-coding-agent-on-macos-2gga
اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi