deepseek本地部署-linux
1、官网推荐安装方法(使用脚本,我绕不过github,未采用)
登录ollama下载网站https://ollama.com/download/linux,linux下有下载脚本。
正常来说,在OS系统下直接执行脚本即可。
2、手动安装方法
2.1获取ollama-linux-arm64.tgz
wget https://ollama.com/download/ollama-linux-arm64.tgz
wget https://ollama.com/download/ollama-linux-amd64.tgz
2.2解压
sudo tar - C /usr -xzf ollama-linux-arm64.tgz
2.3创建用户和组
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami
2.3创建service文件
vim /etc/systemd/system/ollama.service要是系统没有就自己创建
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target
3、启动ollama服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollama
4、安装deepseek
4.1选择适合的模型版本
4.2安装模型
4.2.1查询模型安装命令
Ollama
其他的模型下载也是一样的,可以在这里找到,点进去后直接这里选择你要下载的模型,然后复制即可。
4.2.2输入命令下载运行1.5b版本
# ollama run deepseek-r1:1.5b需要联网情况,下载完成后,就可以对话了
5、配置可视化界面
如果需要Web或者客户端支持,可以查看GitHub里的推荐GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.