当前位置: 首页 > article >正文

DeepSeek-R1 本地部署模型流程

 DeepSeek-R1 本地部署模型流程 
*****************************************************
环境准备
操作系统:Windows11
内存:32GB RAM
存储:预留 300GB 可用空间
显存:  16G
网络: 100M带宽
 
*****************************************************
setup1:  安装 Ollama

访问 Ollama 官网(https://ollama.com/ )
根据你的操作系统点击 “download” 下载安装包,然后进行安装。
确保github可访问 ( windows hosts配置github访问dns )

安装成功后: 
cmd命令行输入 ollamam 确认安装正确.(输出使用说明提示)
****************************************************

****************************************************
setup2: 下载 DeepSeek 模型
打开 Ollama 网址,找到 “models” 选项,进入后选择 “deepseek-r1”。(https://ollama.com/library/deepseek-r1)
本机16G显存 使用 ollama run deepseek-r1:14b 
--------------------------------------------
1.5b 版本:适用于一般文字编辑使用,需要 1.1GB 空余空间,命令为ollama run deepseek-r1:1.5b。
7b 版本:DeepSeek 的第一代推理模型,性能与 openal-01 相当,需要 4.7GB 空余空间,命令为ollama run deepseek-r1:7b。
8b 版本:需要 4.9GB 空余空间,命令为ollama run deepseek-r1:8b。
14b 版本:需要 9GB 空余空间,命令为ollama run deepseek-r1:14b。
32b 版本:需要 20GB 空余空间,命令为ollama run deepseek-r1:32b。
70b 版本:需要 43GB 空余空间,命令为ollama run deepseek-r1:70b。
671b 版本:需要 404GB 空余空间,命令为ollama run deepseek-r1:671b 。
(也可以在 DeepSeek 官网上,点击 “model”,进入最近的 “deepseekr1” 模型,点击 “复制” 按钮图标获取命令)
------------------------------------------------
复制粘贴命令到cmd命令行,等待即可.

下载结束后会出现 “verifyingsha256digest” 检查完整性,完成后若有 “success” 提示则表示部署完成。
其他命令:  
 ollama list 查看已部署模型
 ollama rm deepseek-r1:14b 删除模型
...
****************************************************

 ****************************************************
setup3: 开启对话
部署完成后,命令提示符输入位置会变成 “>>send a message for help” 提示,此时进入与人工智能对话场景,可以输入中文或英文进行交流

离线后重新进入对话:关闭 powershell 后,若想重新进入 DeepSeek 对话,通过CMD终端,输入 “ollama run deepseek-r1:14b” 。

搭建更便捷的操作界面(可选):如果想要更方便的操作界面,可以搭建 webui,需要安装 open - webui。(步骤略)
 ****************************************************

 ****************************************************
本地搭建大模型的意义(个人):
 自主可控 ,数据相对安全, 数据不会上传至云端,  用户对于包含商业机密、个人隐私等敏感数据的处理会更加放心。
 行业应用实时化, 降低使用门槛,无需依赖网络传输 , 配合企业/个人知识库+智能体应用,能拥有更合适自己的AI助手。

 ****************************************************


http://www.kler.cn/a/525163.html

相关文章:

  • NLP模型大对比:Transformer > RNN > n-gram
  • 蓝牙技术在物联网中的应用有哪些
  • YOLOv11-ultralytics-8.3.67部分代码阅读笔记-head.py
  • 获取snmp oid的小方法1(随手记)
  • 分布式微服务系统架构第88集:kafka集群
  • 代码随想录算法训练营第三十八天-动态规划-完全背包-279.完全平方数
  • 【愚公系列】《循序渐进Vue.js 3.x前端开发实践》032-组件的Teleport功能
  • 练习(复习)
  • Nginx 安装配置指南
  • ESP32-S3模组上跑通esp32-camera(37)
  • 什么是波士顿矩阵,怎么制作?AI工具一键生成战略分析图!
  • Java基础知识-第13章-Java多线程编程基础
  • 【BQ3568HM开发板】智能家居中控屏界面设计:打造便捷的家居控制体验
  • 阿里云 - RocketMQ入门
  • 蓝桥杯嵌入式uart,iic,adc_scan模版
  • js基础(黑马程序员)
  • 【Redis】List 类型的介绍和常用命令
  • AI时代:行动者胜,被动者汰
  • Hive:日志,hql运行方式,Array,行列转换
  • UE学习日志#14 GAS--ASC源码简要分析10 GC相关
  • 设计模式的艺术-策略模式
  • concurrent.futures.Future对象详解:利用线程池与进程池实现异步操作
  • 蓝桥杯python语言基础(5)——函数
  • python-leetcode-从前序与中序遍历序列构造二叉树
  • 新年学习计算机名校课程
  • VPR概述、资源