Ollama ਨਾਲ DeepSeek ਨੂੰ ਲੋਕਲ ਚਲਾਓ
ਤੁਸੀਂ 10 ਮਿੰਟਾਂ ਵਿੱਚ ਆਪਣੇ ਕੰਪਿਊਟਰ 'ਤੇ AI ਮਾਡਲ ਚਲਾ ਸਕਦੇ ਹੋ। DeepSeek ਮਾਡਲ ਇਸ ਨੂੰ ਆਸਾਨ ਬਣਾਉਂਦੇ ਹਨ।
ਮਾਡਲਾਂ ਨੂੰ ਲੋਕਲ ਚਲਾਉਣ ਦੇ ਫਾਇਦੇ ਹਨ:
- ਪੂਰੀ ਪ੍ਰਾਈਵੇਸੀ। ਤੁਹਾਡਾ ਡੇਟਾ ਤੁਹਾਡੀ ਮਸ਼ੀਨ 'ਤੇ ਹੀ ਰਹਿੰਦਾ ਹੈ।
- ਕੋਈ ਖਰਚਾ ਨਹੀਂ। ਤੁਸੀਂ ਕੋਈ API ਫੀਸ ਨਹੀਂ ਭਰਦੇ।
- ਆਫਲਾਈਨ ਐਕਸੈਸ। ਤੁਹਾਨੂੰ ਇੰਟਰਨੈਟ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ।
- ਕੋਈ ਸੀਮਾ ਨਹੀਂ। ਜਿੰਨੇ ਚਾਹੋ ਉਨੇ ਕੁਐਰੀਆਂ (queries) ਚਲਾਓ।
ਮਾਡਲ ਦੀਆਂ ਲੋੜਾਂ:
• 1.5B ਮਾਡਲ: 4GB RAM • 7B ਮਾਡਲ: 8GB RAM, 6GB GPU VRAM • 14B ਮਾਡਲ: 16GB RAM, 10GB GPU VRAM • 33B ਮਾਡਲ: 32GB RAM, 20GB GPU VRAM • 67B ਮਾਡਲ: 64GB RAM, 40GB GPU VRAM
ਜ਼ਿਆਦਾਤਰ ਲੈਪਟਾਪਾਂ ਲਈ 7B ਜਾਂ 14B ਮਾਡਲ ਸਭ ਤੋਂ ਵਧੀਆ ਕੰਮ ਕਰਦੇ ਹਨ।
ਇਸ ਨੂੰ ਕਿਵੇਂ ਸੈੱਟਅੱਪ ਕਰਨਾ ਹੈ:
- Ollama ਇੰਸਟਾਲ ਕਰੋ।
- macOS/Linux:
curl -fsSL https://ollama.com/install.sh | sh - Windows: ollama.com ਤੋਂ ਡਾਊਨਲੋਡ ਕਰੋ
ਮਾਡਲ ਪੁੱਲ (Pull) ਕਰੋ। ਚਲਾਓ:
ollama pull deepseek-r1:7bਮਾਡਲ ਸ਼ੁਰੂ ਕਰੋ। ਚਲਾਓ: `ollama