当前位置：首页 > article >正文

linux deepseek-r1模型安装

article 2025/2/24 23:59:42

安装ollama

将下载的离线包上传到主机上，解压到制定目录

配置service

vi /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/data/ollama/apps/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=$PATH"
#指定模型存储位置，可以直接在外网下载好模型，打包解压到内网的ollama的模型目录下，就能实现离线安装了
Environment="OLLAMA_MODELS=/data/ollama/apps/ollama/models"
#解决ollama无法访问的问题
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=default.target

启动ollama

[root@host ollama]# systemctl enable ollama
Created symlink from /etc/systemd/system/default.target.wants/ollama.service to /etc/systemd/system/ollama.service.
[root@host ollama]# systemctl start ollama
[root@host ollama]# systemctl status ollama
● ollama.service - Ollama Service
   Loaded: loaded (/etc/systemd/system/ollama.service; enabled; vendor preset: disabled)
   Active: active (running) since Thu 2025-02-13 17:30:10 CST; 4s ago
 Main PID: 27844 (ollama)
    Tasks: 9
   Memory: 8.6M
   CGroup: /system.slice/ollama.service
           └─27844 /data/ollama/apps/ollama/bin/ollama serve

设置全局变量

vi /etc/profile.d/ollama.sh
#ollama.sh内容如下
PATH=$PATH:/data/ollama/apps/ollama/bin
export PATH

验证ollama

[root@host ollama]# ollama ls
NAME    ID    SIZE    MODIFIED 

[root@host ollama]# ollama --version
ollama version is 0.5.8-rc10

curl验证

curl http://xxxxxxx:11434/
Ollama is running

浏览器访问

安装deepseek-r1模型

下载UI

Chatbox AI官网：办公学习的AI好助手，全平台AI客户端，官方免费下载Chatbox AI 是一款 AI 客户端应用和智能助手，支持众多先进的 AI 模型和 API，可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。https://chatboxai.app/zh