新年手搓--本地化部署DeepSeek-R1,全程实测
1.环境准备安装ollma
ollma官网链接:
Download Ollama on Linux
ubuntu命令行安装:
curl -fsSL https://ollama.com/install.sh | sh
选择运行模型,用7b模型试一下(模型也差不多5G):
ollama run deepseek-r1:7b
运行qwen:
ollama run qwen2.5:7b
2.为方便运行,用docker方式运行管理
Ubuntu上安装 Docker及可视化管理工具_ubuntu docker-CSDN博客
安装可视化工具,方便远程管理(必要时内网穿透相应端口)。
直接运行会报错, 需要更换源: