当前位置: 首页 > article >正文

deepseek-r1落地指南(搭建web-ui | 搭建本地代码编辑器)

deepseek-r1落地指南(搭建web-ui | 搭建本地代码编辑器)

写在前面

前两天写了一篇《deepseek-r1本地部署指南》,今天就deepseek-r1本地部署,讲解一下本地部署的大模型如何落地(应用),以便提高工作效率。目前只接触了两类,下面进行介绍。

搭建 web ui 用于网页对话

前两天介绍的deepseek-r1本地部署,最后得到效果是在控制台进行提问,就像下面这样。
命令行使用deepseek-r1

这样很不方便,我们无法对我们的聊天内容进行管理。这时,一个类似于Chat GPT这样的网页对话功能就显得十分重要。

我选择的是Open web ui,具体效果如下。
open web ui 预览
如果你对其他web ui感兴趣,可以参考博客 7个用于运行LLM的最佳开源WebUI ,选择一个自己喜欢的 web ui。

下面讲解如何搭建,在此之前我们需要安装 docker 。

我们进入docker 官网,选择自己电脑对应的版本,然后点击下载。
下载docker
下载完成之后,点击安装,注意docker的安装也是默认C盘的,请确保C盘有足够的容量。

安装完成后,我们打开docker,注册登录一下docker,然后在右下角点击Terminal,打开控制台,然后输入下面命令,然后等待安装完成。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

在这里插入图片描述

如果是使用其他方式安装(没有参考《deepseek-r1本地部署指南》使用 Ollama安装) deepseek-r1的读者可以参考 open-web-ui官方文档。
https://github.com/open-webui/open-webui

安装完成之后,我们在左侧点击Images(镜像),点击运行,如果需要有配置,默认即可。
Image操作
点击Container(容器),点击
打开web ui网页
此时会打开web ui网页,注册open web-ui账号即可使用。如果无法显示,可以点击进入容器查看
查看容器详情
查看log日志查看存在什么问题,或者尝试重启
日志查看、容器重起

使用deepseek-r1 + Vscode + Cline/Continue 构建本地代码编辑器

这个落地方案是实现本地代码编辑器,但是具体的效果见仁见智,prompt使用的好的话还是挺不错的。主要的好处就是本地搭建的大模型可以很好的保护隐私。本文提供了两种方案,一个是deepseek-r1 + Continue的方案,另一种是deepseek-r1 + Cline的方案,感兴趣的读者都可以试试😜。

deepseek-r1 + Vscode + Continue

在Vscode中下载 Continue插件
下载Continue
配置Continue
config.json文件中,models中加入我们下载好的deepseek-r1模型,配置可以参考我的
配置config文件

	{
      "model": "deepseek-r1:14b",
      "title": "deepseek-r1:14b",
      "provider": "ollama",
      "systemMessage": "You are an expert software developer. You give helpful and concise responses."
    },
    {
      "model": "deepseek-r1:8b",
      "title": "deepseek-r1:8b",
      "provider": "ollama",
      "systemMessage": "You are an expert software developer. You give helpful and concise responses."
    }

然后可以在左侧的对话框中选择我们配置好的模型了。
选择模型
最后测试一下,我的 Prompt 如下

**资深深度学习专家**:你是一名拥有10年深度学习开发经验的人工智能专家,并且专注于时序序列领域,尤其是股票预测方向。

### 目标
- 复现一个Transformer模型,并且能够通用的在时序序列数据上使用(主要是股票数据)。生成预测数据与真实对比的图像。

### 技能
- 擅长使用Vscode编程,使用python语言,并且能够进行代码调试。
- 擅长模型参数调试,知道如何调试模型并选取优秀的参数。
- 擅长本地环境搭建

### 工作流程
模型设计:
	1. 设计Transformer模型组件Attention
    2. 设计Transformer模型的encoder
    3. 设计Transformer模型的decoder
    4. 设计Transformer模型model
    5. 上面提到的模型文件分别用.py文件存储,然后统一放在src下的models文件夹中
    6. 模型参数:
    	- 嵌入维度:32,64
        - 注意力头数:8,4
        - 注意力层数:2,1
        - 学习率:0.001,0.01
预处理:
    1. 对于给定的数据(csv文件)进行预处理,删除字符和日期这类特征。
    2. 将数据进行归一化,然后进行分批(batch)输入到模型中
    3. 归一化提供Z-score标准化、Min-Max标准化或不使用标准化三种方法
    4. 训练集和测试集比例为8:2,使用滑动窗口,默认使用7天预测下一天的数据
    5. 数据放在src文件夹下的data文件夹中

模型训练:
    1. 设计不同的参数进行训练
    2. 设计模型训练,epoch为100-200
    3. 使用Adam optimizer。
    4. 早停条件,监控验证集损失,当连续若干epoch损失不再下降时停止训练。
    5. 为模型设计中的参数设置不同组合,以寻找最佳配置

结果保存:
    1. 绘图使用python的matplotlib库
    2. 预测的值用橙色线画出,真实值用蓝色画出
    3. 将不同的参数设置为图片名进行保存
    4. 将最终的MSE、MAE、R2、MAPE的结果保存到csv中,上面指标为纵轴,横轴为模型中的参数。
    5. 结果统一放在src下的result中,图片放在/src/result/figures,结果放在/src/result/data

### 定义
- Transformer表示人工智能自然语言处理(Natrual Language Process)领域中的论文《Attention is All you Need》中提出的模型Transformer。

### 约束条件
- 确保代码不用于非法金融活动,如操纵市场
- 主机配置:
    1. cpu:amd r3-3100
    2. gpu:RTX3060 8g
    3. SYSTEM:win11
    4. MEMORY: 16G

### 描述

### 输出格式
1. 首先生成模型的目录结构
2. 然后生成对应的模型文件
3. 如果模型无法运行,需要自动debug(调试)

### 初始化
你是一名拥有10年深度学习开发经验的人工智能专家,并且专注于时序序列领域,尤其是股票预测方向,请以专业和创新的视角思考问题。

由于输出太长了,仅展示部分输出。
部分输出

deepseek-r1 + Vscode + Cline

首先是安装Cline插件
安装Cline
配置信息可以参考
Cline配置
API选择 Ollama,指令这里我只设了一个简单的“使用中文回答问题”。
使用Prompt和Continue测试的Prompt一致(偷个懒),部分结果展示如下
Cline效果

以上就是本文的全部内容了,由于过年回家,文章写的有点粗糙,如果有不懂的读者欢迎在下方留言❤️~


http://www.kler.cn/a/545805.html

相关文章:

  • MySQL 安装配置(完整教程)
  • DeepSeek教unity------UI框架
  • C++ 学习之旅:基础语法学习
  • npm 私服使用介绍
  • HCIA项目实践--RIP的拓展配置
  • Spring Cloud + Nacos + K8S 零影响发布方案
  • C# 中用于比较两个字符串的方法string.Compare
  • 文件上传漏洞请求体
  • React进阶之React状态管理CRA
  • C++从入门到实战(三)缺省参数与函数重载
  • 排序--四种算法
  • 劳动争议调解系统(源码+文档+部署+讲解)
  • uniapp在地图上加载CAD图,标记区域网格,加载geojson数据
  • 图像锐化(QT)
  • Qt中2个.app源文件之间函数与变量的互相调用
  • 【工业安全】-CVE-2022-35561- Tenda W6路由器 栈溢出漏洞
  • @Transational事务注解底层原理以及什么场景事务会失效
  • C++设计模式-工厂模式
  • 什么是服务的雪崩、熔断、降级的解释以及Hystrix和Sentinel服务熔断器的解释、比较
  • OpenWebUI使用DeepSeek R1满血版,DeepSeek R1 API调用