当前位置: 首页 > article >正文

喂饭式教程 - 腾讯云轻量服务器部署DeepSeek

前置条件

有1台 最低配置为 2核4G 的轻量应用服务器,理论上来说,服务器配置越高,效果越好。

一、选择镜像

新购或旧有系统重装,选择应用模板,再选择 DeepSeek-R1 1.5B 即可。

在这里插入图片描述

二、查看应用信息

系统安装完成后,在轻量应用服务器详细页面,可以查看应用信息及进行应用管理。

在这里插入图片描述

三、开始使用

默认自带的有Open WebUI 界面,可以可视化的使用大模型。

若系统刚重装完毕,点击该网站有可能打不开,大概率是应用正在启动,稍后再试即可。

在这里插入图片描述

四、创建管理员账号

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

五、进行对话

至此私有化部署及设置DeepSeek已完成,可以进行对话。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

不愧是AI,想的就是多。

六、选择模型

系统默认已经完成DeepSeek 1.5B 模型的安装,也可以添加模型。

在这里插入图片描述

七、添加模型

DeepSeek-R1就是深度搜索-R1模型,包含Distilled models 的是蒸馏模型。

模型模型名模型大小
DeepSeek-R1-Distill-Qwen-1.5Bdeepseek-r1:1.5b1.1G
DeepSeek-R1-Distill-Qwen-7Bdeepseek-r1:7b4.7G
DeepSeek-R1-Distill-Llama-8Bdeepseek-r1:8b4.9G
DeepSeek-R1-Distill-Qwen-14Bdeepseek-r1:14b9.0G
DeepSeek-R1-Distill-Qwen-32Bdeepseek-r1:32b20G
DeepSeek-R1-Distill-Llama-70Bdeepseek-r1:70b43G
DeepSeek-R1deepseek-r1:671b404G

具体详细信息以官网介绍为准。

如要安装模型 DeepSeek-R1-Distill-Qwen-7B ,则只需输入模型名 deepseek-r1:7b ,点击拉取后,系统会自动拉取模型进行下载,下载完成后,再选择模型即可。

下载通常需要较多的时间。

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

八、对话高级设置

点击右上角按钮可以进入高级设置,适合对AI模型有一定了解的用户配置。

在这里插入图片描述

选择什么样的模型

从表中可以看出,模型参数越大则文件体积越大,相应的对硬件要求也就越高。从运行结果来看,拥有更大参数量的模型(如DeepSeek-R1)在推理效果上更胜一筹,但另一方面,更小参数的 Distilled models(蒸馏模型)模型的响应速度更快、占用资源更少、部署时长更短,在处理较为简单的任务时,仍是不错的选择。

具体选择要根据服务器硬件参数来决定,配置低的就选择低参数量,如要追求更好的推理结果,高参数量的模型也必须搭配高配置的服务器。

如果运行一个模型响应很卡顿,大概率说明服务器配置不够,可以考虑升级配置或降低模型参数量。


http://www.kler.cn/a/541819.html

相关文章:

  • 【牛客】动态规划专题一:斐波那契数列
  • 为什么我用Python控制仪器比C#慢很多?如何优化性能?
  • HalconDotNet 基础操作
  • data attributes
  • 为什么推荐使用 LabVIEW 开发
  • opc da 服务器数据 转 EtherCAT项目案例
  • C++ | Goal 解析器实现
  • 4.Excel:李东阳-电器企业-本年度的生产与营销计划❗(18)
  • Linux 快速对比两个文件的差异值
  • ORM框架(Object-Relational Mapping,对象关系映射框架)
  • 使用Hexo部署NexT主体网站
  • 现代前端工程化实践:高效构建的秘密
  • 以简单的方式过一生
  • k8s部署logstash
  • HTML 左右联动高亮示例
  • ‌Linux系统中无法使用netstat命令的原因及解决方法
  • Django 简单安装(pycharm)
  • 重生之我要当云原生大师(十五)归档和传输文件
  • 迷宫问题 XDOJ
  • Golang学习历程【第七篇 闭包type defer panic recover了解time包】
  • 【AI落地应用实战】DeepSeek大模型应用探讨与RAG技术全景——从实验室榜单看向真实业务场景
  • 易语言Easy Programming Language
  • ArrayList、LinkedList、HashMap、HashTable、HashSet、TreeSet
  • 【时序预测】-深度学习系列
  • halcon三维点云数据处理(十五)xyz_attrib_to_object_model_3d
  • 图片下载不下来?即便点了另存为也无法下载?两种方法教你百分之百下载下来