Ubuntu22.04部署deepseek大模型

Ollama 官方版

Ollama 官方版: https://ollama.com/
若你的显卡是在Linux上面 可以使用如下命令安装

curl -fsSL https://ollama.com/install.sh | sh

ollama命令查看

root@heyu-virtual-machine:~# ollama -h
Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.
root@heyu-virtual-machine:~#

拉取deepseek模型

查看

ollama list

当然Ollama不只是可以启动deepseek模型，也可以启动其他的模型
详情链接：https://ollama.com/search

# 模型的安装命令

# 1.5B Qwen DeepSeek R1  
# 所需空间大约 1.1G
ollama run deepseek-r1:1.5b

# 7B Qwen DeepSeek R1
# 所需空间大约 4.7G
ollama run deepseek-r1:7b

# 8B Llama DeepSeek R1
# 所需空间大约 4.9G
ollama run deepseek-r1:8b

# 14B Qwen DeepSeek R1
# 所需空间大约 9G
ollama run deepseek-r1:14b

# 32B Qwen DeepSeek R1
# 所需空间大约 20G
ollama run deepseek-r1:32b

# 70B Llama DeepSeek R1
# 所需空间大约 43G
ollama run deepseek-r1:70b

# 671B Llama DeepSeek R1
# 所需空间大约 404G
ollama run deepseek-r1:671b

我的个人电脑性能一般，就只能先使用7b的模型了

ollama run deepseek-r1:7b

使用大模型

可以在命令行中输入提问的信息

cpu负载信息

以上是在Ubuntu虚拟机中用CPU跑的性能视图，CPU基本上占用很高。如果有高端的GPU显卡，可以运行的更好。

以下是参考配置：

命令行窗口启用模型

可能由于工作或者是下班了，我们不小心关闭命令行窗口后，还想打开命令提示符窗口，只需要再次在命令符提示窗口中输入上面复制的指令即可

ollama run deepseek-r1:7b

FQA

拉取模型时报错 500

pulling manifest
Error: pull model manifest: 500: {“errors”:[{“code”:“INTERNAL_ERROR”,“message”:“internal error”}]}

这个错误表明在拉取模型清单（manifest）时，服务器返回了 500 内部错误。这通常是由服务器端的问题引起的，但你可以尝试以下步骤来排查和解决问题：
检查网络连接
● 确保你的网络连接正常，尤其是访问目标服务器时没有防火墙或代理的限制。
● 如果你使用了代理，请确保代理配置正确。

可以检查一下网络，稍后再执行命令下载。