ਮੈਕ ਮਿਨੀ (Mac Mini) 'ਤੇ ਇੱਕ ਲੋਕਲ ਕੋਡਿੰਗ ਏਜੰਟ ਚਲਾਉਣਾ

ਮੈਂ ਘੱਟ ਜੋਖਮ ਵਾਲੇ ਕੰਮਾਂ ਲਈ ਇੱਕ ਲੋਕਲ ਕੋਡਿੰਗ ਏਜੰਟ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹਾਂ। ਇਹ ਫਾਈਲ ਐਡਿਟਿੰਗ, ਟੈਸਟ ਫਿਕਸ ਅਤੇ ਬਿਲਡ ਵੈਰੀਫਿਕੇਸ਼ਨ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ। ਇਹ Playwright ਟੈਸਟ ਵੀ ਲਿਖਦਾ ਹੈ, ਕੋਡ ਦੀ ਸਮੀਖਿਆ ਕਰਦਾ ਹੈ ਅਤੇ ਡਿਪਲੋਇ ਚਲਾਉਂਦਾ ਹੈ।

ਇਹ ਸੈੱਟਅੱਪ 24 GB RAM ਵਾਲੇ Mac Mini M4 'ਤੇ ਚੱਲਦਾ ਹੈ। ਮੈਂ ਕੋਡਿੰਗ ਦੇ ਕੰਮ ਲਈ ਕਲਾਉਡ API ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦਾ। ਮੈਂ ਸਿਰਫ਼ ਪਲਾਨਿੰਗ ਅਤੇ ਰੂਟਿੰਗ ਲਈ ਇੱਕ ਸਸਤੇ ਕਲਾਉਡ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹਾਂ। Pi ਨਾਮ ਦਾ ਇੱਕ ਕੋਡਿੰਗ ਏਜੰਟ ਅਸਲ ਫਾਈਲ ਐਡਿਟਿੰਗ ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ। ਇਹ oMLX ਨਾਲ ਜੁੜਿਆ ਹੋਇਆ ਹੈ, ਜੋ ਕਿ ਇੱਕ ਲੋਕਲ LLM ਸਰਵਰ ਹੈ।

ਇਹ ਸੈੱਟਅੱਪ ਕਿਸੇ ਵੀ ਅਜਿਹੇ ਏਜੰਟ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ ਜੋ OpenAI-ਅਨੁਕੂਲ API ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਤੁਸੀਂ ਇਸੇ oMLX ਸਰਵਰ ਨਾਲ Claude Code ਜਾਂ Codex ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹੋ।

ਮੈਂ ਦੋ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹਾਂ ਅਤੇ ਕੰਮ ਦੇ ਆਧਾਰ 'ਤੇ ਉਹਨਾਂ ਨੂੰ ਬਦਲਦਾ ਰਹਿੰਦਾ ਹਾਂ। 24 GB RAM ਦੀ ਸੀਮਾ ਮੈਨੂੰ ਦੋਵਾਂ ਨੂੰ ਇੱਕੋ ਸਮੇਂ ਚਲਾਉਣ ਤੋਂ ਰੋਕਦੀ ਹੈ।

  • ਮੁੱਖ ਕੋਡਿੰਗ ਮਾਡਲ: 20 tokens ਪ੍ਰਤੀ ਸੈਕਿੰਡ ਦੀ ਰਫ਼ਤਾਰ ਨਾਲ 9B ਕਲਾਸ।
  • ਫਾਸਟ ਮਾਡਲ: ਤੇਜ਼ ਫਿਕਸਾਂ ਲਈ 27 tokens ਪ੍ਰਤੀ ਸੈਕਿੰਡ ਦੀ ਰਫ਼ਤਾਰ ਨਾਲ 4B ਕਲਾਸ।

ਇੱਕ ਸਵੈਪ ਸਕ੍ਰਿਪਟ ਇੱਕ ਮਾਡਲ ਨੂੰ ਬਾਹਰ ਕੱਢਦੀ ਹੈ ਅਤੇ ਦੂਜੇ ਨੂੰ ਅੰਦਰ ਲਿਆਉਂਦੀ ਹੈ। ਇਸ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ 5 ਸੈਕਿੰਡ ਲੱਗਦੇ ਹਨ।

ਏਜੰਟ ਇਹ ਕੰਮ ਕਰਦਾ ਹੈ:

  • ਫਾਈਲ ਐਡਿਟਿੰਗ ਅਤੇ ਰੀਫੈਕਟਰੀੰਗ
  • ਟੈਸਟ ਲਿਖਣਾ ਅਤੇ ਫਿਕਸ ਕਰਨਾ
  • ਬਿਲਡ ਵੈਰੀਫਿਕੇਸ਼ਨ
  • ਕੋਡ ਰਿਵਿਊ
  • ਡਾਕੂਮੈਂਟੇਸ਼ਨ ਅੱਪਡੇਟਸ
  • ਡਿਪਲੋਇ ਚਲਾਉਣਾ

ਮੈਂ ਇੱਕ ਲਾਈਨ ਦੇ ਕੋਡ ਤੋਂ ਵੱਧ ਗੁੰਝਲਦਾਰ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਲਈ RPC ਮੋਡ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹਾਂ। ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਲੇਅਰ ਇੱਕ ਪ੍ਰੋਂਪਟ ਲਿਖਦੀ ਹੈ ਅਤੇ Pi ਇਸ ਨੂੰ ਲਾਗੂ ਕਰਦਾ ਹੈ।

ਮੈਂ ਪ੍ਰਦਰਸ਼ਨ ਨੂੰ ਸੁਧਾਰਨ ਲਈ ਇਹਨਾਂ ਟੂਲਜ਼ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹਾਂ:

  • pix-optimizer: ਟੋਕਨਾਂ ਨੂੰ ਕੰਪਰੈੱਸ ਕਰਦਾ ਹੈ ਅਤੇ ਬੋਇਲਰਪਲੇਟ ਨੂੰ ਹਟਾਉਂਦਾ ਹੈ।
  • context-mode: ਵਰਕਸਪੇਸ ਕ