DeepSeek-R1 本地部署模型流程
DeepSeek-R1 本地部署模型流程
*****************************************************
环境准备
操作系统:Windows11
内存:32GB RAM
存储:预留 300GB 可用空间
显存: 16G
网络: 100M带宽
*****************************************************
setup1: 安装 Ollama
访问 Ollama 官网(https://ollama.com/ )
根据你的操作系统点击 “download” 下载安装包,然后进行安装。
确保github可访问 ( windows hosts配置github访问dns )
安装成功后:
cmd命令行输入 ollamam 确认安装正确.(输出使用说明提示)
****************************************************
****************************************************
setup2: 下载 DeepSeek 模型
打开 Ollama 网址,找到 “models” 选项,进入后选择 “deepseek-r1”。(https://ollama.com/library/deepseek-r1)
本机16G显存 使用 ollama run deepseek-r1:14b
--------------------------------------------
1.5b 版本:适用于一般文字编辑使用,需要 1.1GB 空余空间,命令为ollama run deepseek-r1:1.5b。
7b 版本:DeepSeek 的第一代推理模型,性能与 openal-01 相当,需要 4.7GB 空余空间,命令为ollama run deepseek-r1:7b。
8b 版本:需要 4.9GB 空余空间,命令为ollama run deepseek-r1:8b。
14b 版本:需要 9GB 空余空间,命令为ollama run deepseek-r1:14b。
32b 版本:需要 20GB 空余空间,命令为ollama run deepseek-r1:32b。
70b 版本:需要 43GB 空余空间,命令为ollama run deepseek-r1:70b。
671b 版本:需要 404GB 空余空间,命令为ollama run deepseek-r1:671b 。
(也可以在 DeepSeek 官网上,点击 “model”,进入最近的 “deepseekr1” 模型,点击 “复制” 按钮图标获取命令)
------------------------------------------------
复制粘贴命令到cmd命令行,等待即可.
下载结束后会出现 “verifyingsha256digest” 检查完整性,完成后若有 “success” 提示则表示部署完成。
其他命令:
ollama list 查看已部署模型
ollama rm deepseek-r1:14b 删除模型
...
****************************************************
****************************************************
setup3: 开启对话
部署完成后,命令提示符输入位置会变成 “>>send a message for help” 提示,此时进入与人工智能对话场景,可以输入中文或英文进行交流
离线后重新进入对话:关闭 powershell 后,若想重新进入 DeepSeek 对话,通过CMD终端,输入 “ollama run deepseek-r1:14b” 。
搭建更便捷的操作界面(可选):如果想要更方便的操作界面,可以搭建 webui,需要安装 open - webui。(步骤略)
****************************************************
****************************************************
本地搭建大模型的意义(个人):
自主可控 ,数据相对安全, 数据不会上传至云端, 用户对于包含商业机密、个人隐私等敏感数据的处理会更加放心。
行业应用实时化, 降低使用门槛,无需依赖网络传输 , 配合企业/个人知识库+智能体应用,能拥有更合适自己的AI助手。
****************************************************