当前位置: 首页 > article >正文

DeepSeek-R1 32B Windows+docker本地部署

最近国产大模型DeepSeek兴起,本地部署了一套deepseek同时集成Open WebUI界面,给大家出一期教程。

软件:Ollama、docker、Open WebUI
一、用Ollama下载模型

首先我们需要安装Ollama,它可以在本地运行和管理大模型。
到Ollama官网 https://ollama.com,点击下载,然后选择适合自己系统的版本,这里选择Windows:
在这里插入图片描述

在这里插入图片描述
下载完成后点击安装,完成后你的系统托盘图标会出现一个常驻的Ollama标记:在这里插入图片描述
到此Ollama安装结束。

接下来我们使用Ollama下载DeepSeek-R1模型,点击https://ollama.com/search
进入主题页面:
在这里插入图片描述
进入这个界面后,点击下拉菜单,可以看到多个版本。建议3060 12G以下的显卡选择14b,4080以上可以选32b:
在这里插入图片描述
复制对应的下载指令,在cmd中运行下载:

ollama run deepseek-r1:14b

在这里插入图片描述
下载完成:在这里插入图片描述
此时,在cmd中就可以对话了。
接下来我们给deepse添加UI界面。

二、安装Docker

我们用Docker这个容器化平台,安装Open WebUI https://www.docker.com 下载,这里依然选择Windows版:
在这里插入图片描述
默认安转就行。在这里插入图片描述
安装完成后会提示重启,重启后需要同意Docker的条款,并注册你的账号:
在这里插入图片描述
打开cmd输入:

docker

在这里插入图片描述

有了docker以后,方便安装Open WebUI。

三、安装Open WebUI

接下来到Open WebUI这个开源工具的代码页:

https://github.com/open-webui/open-webui

在这里插入图片描述
在cmd中执行:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

在这里插入图片描述
安装完成后,Open WebUI就在docker中了。

四、配置Open WebUI与deepseek-r1模型

进入网址:http://localhost:3000/
或者 在docker中点击对应的启动地址:
在这里插入图片描述
进入Open WebUI的图形化界面:在这里插入图片描述
设置管理员的账号,邮箱与密码随便填,但是一定要记住。
在这里插入图片描述

在这里插入图片描述
接下来就可以自由对话了。


http://www.kler.cn/a/538811.html

相关文章:

  • TaskBuilder项目实战:创建项目
  • Ollama + AnythingLLM + Deepseek r1 实现本地知识库
  • 重新刷题求职2-DAY7
  • 初级数据结构:栈和队列
  • 2020-12-27 把int类型拆开并放入一个字符型数组当中。
  • 【个人开发】macbook m1 Lora微调qwen大模型
  • C++学习笔记——类和对象(上)
  • 【C++八股】static关键字
  • 苹果iPhone 16 Pro Max上手体验:性能极致释放
  • 二级C语言题解:十进制转其他进制、非素数求和、重复数统计
  • Linux 系统搭建 Python 开发环境全流程
  • 基础入门-网站协议身份鉴权OAuth2安全Token令牌JWT值Authirization标头
  • PDF 2.0 的新特性
  • redis之GEO 模块
  • MVCC机制深度解析
  • html语义化
  • 详细教程 | 如何使用DolphinScheduler调度Flink实时任务
  • 瑞芯微 Rockchip 系列 RK3588 主流深度学习框架模型转成 rknn 模型教程
  • mysql8 从C++源码角度看sql生成抽象语法树
  • 定期删除一周前的数据,日志表的表空间会增长吗?
  • springboot基于微信小程序的短文写作竞赛管理系统
  • QT修仙之路1-1--遇见QT
  • docker部署superset并连接华为MRS hive数据库
  • 使用Python实现PDF与SVG相互转换
  • CNN卷积神经网络多变量多步预测,光伏功率预测(Matlab完整源码和数据)
  • PDFMathTranslate-翻译 ble core 5.4全文