ਪੰਜ ਨਵੇਂ ਕੋਡਿੰਗ-ਕੇਂਦ੍ਰਿਤ LLMs ਹੁਣ 16 GB-32 GB RAM ਵਾਲੇ 2026 ਦੇ ਲੈਪਟਾਪ 'ਤੇ ਚੱਲ ਸਕਦੇ ਹਨ, ਜੋ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਕਲਾਊਡ ਲੇਟੈਂਸੀ (cloud latency) ਜਾਂ ਡਾਟਾ-ਲੀਕ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਤੋਂ ਬਿਨਾਂ ਆਫਲਾਈਨ ਆਟੋਕੰਪਲੀਟ, ਡੀਬੱਗਿੰਗ ਅਤੇ ਕੋਡ-ਰਿਵਿਊ ਟੂਲਸ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਇਹ ਮਾਡਲਾਂ 7 B ਪੈਰਾਮੀਟਰ ਵਾਲੇ ਕੋਡਰ ਤੋਂ ਲੈ ਕੇ 32 B ਹੈਵੀ-ਡਿਊਟੀ ਅਸਿਸਟੈਂਟ ਤੱਕ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਹਰੇਕ ਦੇ ਨਾਲ ਇੱਕ ਲਾਈਟਵੇਟ ਰਨਟਾਈਮ (runtime) ਜੋੜਿਆ ਗਿਆ ਹੈ।

ਹੁਣ ਲੋਕਲ ਕੋਡਿੰਗ ਮਾਡਲ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹਨ

ਰੋਜ਼ਾਨਾ ਦੇ ਜ਼ਿਆਦਾਤਰ ਕੰਮਾਂ ਲਈ—ਜਿਵੇਂ ਕਿ ਫੰਕਸ਼ਨ ਲਿਖਣਾ, ਸਨੀਪੇਟਸ (snippets) ਨੂੰ ਰੀਫੈਕਟਰ ਕਰਨਾ, ਯੂਨਿਟ ਟੈਸਟਾਂ ਦੀ ਜਾਂਚ ਕਰਨਾ—ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਹੁਣ ਰਿਮੋਟ API ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਇੱਕ ਲੋਕਲ ਮਾਡਲ ਇੱਕ ਵਾਰ ਚਾਲੂ ਹੁੰਦਾ ਹੈ, ਇਸ ਨੂੰ ਵਰਤਣ ਦੀ ਕੋਈ ਲਾਗਤ ਨਹੀਂ ਹੁੰਦੀ, ਅਤੇ ਇਹ ਪ੍ਰੋਪਰਾਈਟਰੀ ਕੋਡ ਨੂੰ ਮਸ਼ੀਨ 'ਤੇ ਹੀ ਰੱਖਦਾ ਹੈ। ਇਸ ਵਿੱਚ ਮੁੱਖ ਵਾਰ (trade-off) RAM ਦਾ ਹੈ: ਮਾਡਲ ਦਾ ਆਕਾਰ, ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਅਤੇ KV ਕੈਸ਼ (ਟੋਕਨ-ਲੇਵਲ ਅਟੈਂਸ਼ਨ ਲਈ ਟੈਂਪਰੇਰੀ ਸਟੋਰੇਜ) ਲਈ ਲੋੜੀਂਦੀ ਮੈਮੋਰੀ ਮਿਲਾ ਕੇ ਇਹ ਤੈਅ ਹੁੰਦਾ ਹੈ ਕਿ ਉਹ ਕਿਸੇ ਖਾਸ ਲੈਪਟਾਪ 'ਤੇ ਚੱਲੇਗਾ ਜਾਂ ਨਹੀਂ।

ਪੰਜ ਮਾਡਲ ਜੋ ਅਸਲ ਵਿੱਚ ਲੈਪਟਾਪ 'ਤੇ ਕੰਮ ਕਰਦੇ ਹਨ

Qwen2.5-Coder 32B Instruct (ਇਸ ਪਰਿਵਾਰ ਵਿੱਚ 7B ਅਤੇ 14B ਸ਼ਾਮਲ ਹਨ)

  • ਸਭ ਤੋਂ ਵਧੀਆ: ਰੋਜ਼ਾਨਾ ਕੋਡਿੰਗ, ਲਾਈਨ-ਦਰ-ਲਾਈਨ ਆਟੋਕੰਪਲੀਟ, ਯੂਨਿਟ ਟੈਸਟ ਤਿਆਰ ਕਰਨ ਲਈ।
  • ਕੰਟੈਕਸਟ ਵਿੰਡੋ: 131 K ਟੋਕਨ (ਪੂਰੀਆਂ ਫਾਈਲਾਂ ਲਈ ਕਾਫ਼ੀ)।
  • ਲੋੜੀਂਦੀ RAM: 14 B ਵੇਰੀਐਂਟ ਲਈ 16 GB, ਪੂਰੇ 32 B ਲਈ 32 GB।
  • ਇਨ੍ਹਾਂ ਨਾਲ ਚਲਾਓ: Ollama, LM Studio, ਜਾਂ llama.cpp।

DeepSeek-R1-Distill-Qwen-14B

  • ਸਭ ਤੋਂ ਵਧੀਆ: ਬਾਰੀਕ ਬੱਗਸ (bugs) ਲੱਭਣ ਅਤੇ ਗੁੰਝਲਦਾਰ ਲੌਜਿਕ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਲਈ।
  • ਕੰਟੈਕਸਟ ਵਿੰਡੋ: 128 K ਟੋਕਨ।
  • ਲੋੜੀਂਦੀ RAM: 14 B ਮਾਡਲ ਲਈ 16 GB; 32 B ਵੇਰੀਐਂਟ ਲਈ 32 GB ਦੀ ਲੋੜ ਹੋਵੇਗੀ।
  • ਇਨ੍ਹਾਂ ਨਾਲ ਚਲਾਓ: Ollama ਜਾਂ LM Studio।

DeepSeek ਇੱਕ ਰੀਜ਼ਨਿੰਗ-ਟ੍ਰੇਸ (reasoning-trace) ਲੇਅਰ ਜੋੜਦਾ ਹੈ, ਇਸ ਲਈ ਇਹ ਜਵਾਬ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ "ਸੋਚਦਾ" ਹੈ। ਇਹ ਵਾਧੂ ਕਦਮ ਇਸਨੂੰ ਹੌਲੀ ਕਰ ਦਿੰਦਾ ਹੈ, ਪਰ ਵਧੇਰੇ ਜਾਂਚ ਨਾਲ ਉਹ ਐਜ-ਕੇਸ (edge-case) ਗਲਤੀਆਂ ਫੜ ਲਈਆਂ ਜਾਂਦੀਆਂ ਹਨ ਜੋ ਤੇਜ਼ ਮਾਡਲਾਂ ਤੋਂ ਰਹਿ ਜਾਂਦੀਆਂ ਹਨ।

Phi-4 14B (Microsoft)

  • ਸਭ ਤੋਂ ਵਧੀਆ: JSON ਤਿਆਰ ਕਰਨ, ਪ੍ਰੋਜੈਕਟ ਦਾ ਢਾਂਚਾ (scaffolding) ਬਣਾਉਣ ਅਤੇ ਕੋਡ ਸਨੀਪੇਟਸ ਦੀ ਵਿਆਖਿਆ ਕਰਨ ਲਈ।
  • ਕੰਟੈਕਸਟ ਵਿੰਡੋ: 16 K ਟੋਕਨ।
  • ਲੋੜੀਂਦੀ RAM: 16 GB।
  • ਇਨ੍ਹਾਂ ਨਾਲ ਚਲਾਓ: Ollama ਜਾਂ vLLM।

ਸਿੰਥੈਟਿਕ ਪਾਠ-ਪੁਸਤਕਾਂ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ, Phi-4 ਹਦਾਇਤਾਂ ਦੀ ਸਖ਼ਤੀ ਨਾਲ ਪਾਲਣਾ ਕਰਦਾ ਹੈ, ਜੋ ਇਸਨੂੰ ਅਜਿਹੇ ਸਟ੍ਰਕਚਰਡ ਆਉਟਪੁੱਟ ਲਈ ਭਰੋਸੇਯੋਗ ਬਣਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਫਾਰਮੈਟ ਮਹੱਤਵਪੂਰਨ ਹੁੰਦਾ ਹੈ।

Bonsai 27B

  • ਸਭ ਤੋਂ ਵਧੀਆ: ਛੋਟੇ ਲੋਕਲ ਡਿਪਲਾਈਮੈਂਟਸ ਤੋਂ ਵੱਧ ਤੋਂ ਵੱਧ ਫਾਇਦਾ ਲੈਣ ਲਈ।
  • ਕੰਟੈਕਸਟ ਵਿੰਡੋ: "ਲੰਬੀ" (ਸਹੀ ਆਕਾਰ ਦੱਸਿਆ ਨਹੀਂ ਗਿਆ)।
  • ਲੋੜੀਂਦੀ RAM: 8 GB।
  • ਇਨ੍ਹਾਂ ਨਾਲ ਚਲਾਓ: Prism ML ਟੂਲਸ ਜਾਂ MLX।

Bonsai ਦਾ ਅਤਿ-ਕੰਪਰੈਸ਼ਨ ਇੱਕ 27 B ਮਾਡਲ ਨੂੰ 3.9 GB ਦੀ ਫਾਈਲ ਵਿੱਚ ਪੈਕ ਕਰ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਇਹ ਸਾਧਾਰਨ ਲੈਪਟਾਪਾਂ 'ਤੇ ਵੀ ਚੱਲ ਸਕਦਾ ਹੈ।

GLM-4-9B-Chat

  • ਸਭ ਤੋਂ ਵਧੀਆ: ਬਹੁ-ਭਾਸ਼ਾਈ ਦਸਤਾਵੇਜ਼ਾਂ ਅਤੇ ਅੰਗਰੇਜ਼ੀ ਤੋਂ ਇਲਾਵਾ ਹੋਰ ਭਾਸ਼ਾਵਾਂ ਵਿੱਚ ਕੋਡ ਕਮੈਂਟਸ ਲਈ।
  • ਕੰਟੈਕਸਟ ਵਿੰਡੋ: 128 K ਟੋਕਨ।
  • ਲੋੜੀਂਦੀ RAM: 8 GB।
  • ਇਨ੍ਹਾਂ ਨਾਲ ਚਲਾਓ: vLLM ਜਾਂ LM Studio।

ਮਜ਼ਬੂਤ ਬਹੁ-ਭਾਸ਼ਾਈ ਸਹਾਇਤਾ GLM-4 ਨੂੰ ਉਦੋਂ ਬਹੁਤ ਸਹਾਇਕ ਬਣਾਉਂਦੀ ਹੈ ਜਦੋਂ ਤੁਹਾਨੂੰ ਬ੍ਰਾਊਜ਼ਰ ਬਦਲੇ ਬਿਨਾਂ ਵਿਦੇਸ਼ੀ ਦਸਤਾਵੇਜ਼ਾਂ ਤੋਂ ਕੋਡ ਉਦਾਹਰਣਾਂ ਪੜ੍ਹਨ ਜਾਂ ਤਿਆਰ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਮੈਂ ਇਨ੍ਹਾਂ ਨੂੰ ਇਕੱਠਾ ਕਿਵੇਂ ਵਰਤਦਾ ਹਾਂ

ਕੰਮ ਮਾਡਲ
ਤੇਜ਼ ਐਡਿਟਸ, ਆਟੋਕੰਪਲੀਟ Qwen2.5-Coder 14B
ਡੂੰਘੀ ਡੀਬੱਗਿੰਗ, ਲੌਜਿਕ ਰਿਵਿਊ DeepSeek-R1-Distill-Qwen-14B
ਸਟ੍ਰਕਚਰਡ ਡਾਟਾ ਜਨਰੇਸ਼ਨ Phi-4 14B
ਘੱਟ ਮੈਮੋਰੀ ਵਾਲੇ ਵਾਤਾਵਰਣ Bonsai 27B
ਗੈਰ-ਅੰਗਰੇਜ਼ੀ ਦਸਤਾਵੇਜ਼ GLM-4-9B-Chat

RAM ਲਈ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਜਿਨ੍ਹਾਂ ਨੂੰ ਤੁਸੀਂ ਨਜ਼ਰਅੰਦਾਜ਼ ਨਹੀਂ ਕਰ ਸਕਦੇ

  • 7 B-9 B ਮਾਡਲ: ਘੱਟੋ-ਘੱਟ 8 GB RAM।
  • 14 B ਮਾਡਲ: ਘੱਟੋ-ਘੱਟ 16 GB RAM।
  • 27 B-32 B ਮਾਡਲ: 32 GB RAM ਜਾਂ ਇੱਕ ਡੈਡੀਕੇਟਿਡ GPU।

ਇਹ ਘੱਟੋ-ਘੱਟ ਮਾਪ ਇਸ ਅਧਾਰ 'ਤੇ ਹਨ ਕਿ OS ਅਤੇ ਰਨਟਾਈਮ ਦਾ KV ਕੈਸ਼ ਕੁਝ ਗੀਗਾਬਾਈਟ ਜਗ੍ਹਾ ਘੇਰਦਾ ਹੈ।

ਤੁਸੀਂ ਆਪਣੇ ਲੈਪਟਾਪ 'ਤੇ ਕਿਹੜੇ ਲੋਕਲ ਮਾਡਲ ਚਲਾ ਰਹੇ ਹੋ?