当前位置: 首页 > article >正文

【真一键部署脚本】——一键部署deepseek

目录

deepseek一键部署脚本说明

0 必要前提

1 使用方法

1.1 使用默认安装配置

1.1 .1 使用其它ds模型

1.2 使用自定义安装

2 附录:deepseek模型手动下载

3 脚本下载地址


deepseek一键部署脚本说明

image-20250208183325987

0 必要前提

  • linux环境

  • python>=3.10

1 使用方法

1.1 使用默认安装配置

不建议:这种方法安装包自带了8b的模型,整个包有25G。

  1. 下载DeepSeek-R1-one.tar.gz

  2. 将DeepSeek-R1-one.tar.gz压缩包解压到/data路径下,包含了deepseek-r1、 deploy.sh、使用说明.pdf

    • DeepSeek-R1: DeepSeek-R1的8b模型

    • deploy.sh:安装脚本

    • 使用说明.pdf: deploy.sh的使用说明

  3. 压缩包自带了deepseek-r1的8b模型,确保模型所在路径为/data/DeepSeek-R1

  4. 执行deploy脚本:bash deploy.sh

等待安装完成:

后端服务api地址 : http//:ip:24444;可在浏览器页面打开,查看接口文档

自带可视化页面:http//:ip:6008;可在浏览器页面打开,开始与ds对话。

1.1 .1 使用其它ds模型

确保模型路径命名为/data/DeepSeek-R1

其它同1.1

1.2 使用自定义安装

脚本下载地址

可自定义后端端口号、前端端口号、模型路径、模型名称、显卡数量

  1. 可直接下载deploy.sh脚本文件

  2. 执行deploy脚本:./deploy.sh --custom

  3. 根据提示配置后端端口号、前端端口号、模型路径、模型名称

等待安装完成:

后端服务api地址 : http//:ip:自定义端口;可在浏览器页面打开,查看接口文档

自带可视化页面:http//:ip:自定义端口;可在浏览器页面打开,开始与ds对话。

2 附录:deepseek模型手动下载

  • modelscope

  • huggingface

3 脚本下载地址

  • 脚本下载地址

  • 相关渠道联系博主

4 其它

支持lmdeploy部署的,都可以使用该脚本


http://www.kler.cn/a/538204.html

相关文章:

  • 使用 Axios ——个人信息修改与提示框实现
  • sqlite 查看表结构
  • TAPEX:通过神经SQL执行器学习的表格预训练
  • 【漫话机器学习系列】084.偏差和方差的权衡(Bias-Variance Tradeoff)
  • nodejs - vue 视频切片上传,本地正常,线上环境导致磁盘爆满bug
  • 38、【OS】【Nuttx】OSTest分析(3):参数传递
  • 【练习】PAT 乙 1046 划拳
  • 【如何掌握CSP-J 信奥赛中的深搜算法】
  • 索引失效的14种常见场景
  • YONBIP后端环境搭建-IDEA
  • 3D数字化营销:重塑家居电商新生态
  • 对极几何方法——2D图片特征点估计运动
  • DeepSeek大模型本地部署实战
  • 【数据结构中链表常用的方法实现过程】
  • python基于深度学习的中文情感分析系统
  • AI安全最佳实践:AI应用开发安全评估矩阵(上)
  • Spring Boot:简化 Java 开发的利器
  • 24.ppt:小李-图书策划方案【1】
  • 通过C变成语言实现一个或多个算法
  • Redis数据库篇 -- Pipeline
  • 【0404】Postgres内核 实现分配一个新的 Object ID (OID)
  • Python如何实现名称为”000-“~“999-”文件的自动生成,且后缀名可以自定义
  • 基于SeaTunnel同步数据
  • 使用Jenkins实现鸿蒙HAR应用的自动化构建打包
  • COBOL语言的云计算
  • 基于HTML、CSS 和 JavaScript 开发个人读书类网站