当前位置: 首页 > article >正文

MaxCompute x DataWorks × DeepSeek,实现使用自定义数据集微调DeepSeek-R1蒸馏模型

一、整体概要

基于阿里云云原生大数据计算服务MaxCompute以及大数据开发治理平台DataWorks实现使用自定义数据集微调DeepSeek-R1蒸馏模型主要分为两大部分,一部分是基于人工智能平台PAI的微调训练,第二部分是通过如何构建自有数据集,并进行接入,下面我们以MaxCompute+DataWorks+PAI为基础,快速微调DeepSeek-R1蒸馏模型。

二、如何微调DeepSeek

进入人工智能平台PAI控制台,左侧导航栏进入快速开始 > Model Gallery,选择模型。下面我们以DeepSeek-R1-Distill-Qwen-7B为例,进行微调训练。(其他模型微调也可以基于这个流程)

进入 DeepSeek-R1-Distill-Qwen-7B 模型页面后,点击“训练”按钮,核心是基于自有数据集进行模型调优,自有数据集可以选择存在对象存储OSS的数据,也可以选择存在MaxCompute的数据,下面我们以存在MaxCompute的数据的自有数据集为例进行DEMO演示。

训练数据集选择自定义数据集-新建数据集。

存储类型选择云原生大数据计算服务 MaxCompute。

导入MaxCcompute的项目名和表名进行关联,进行挂在路径配置。

然后再选择模型输出路径。

最后选择相应的资源配置,及参数配置,点击“训练”就可以基于自有数据集进行微调了,一起试试吧。

三、如何构建自有数据集,接入DeepSeek进行微调

在人工智能平台PAI上使用自定义数据集,主要需要关联MaxCompute的项目和数据表。首先创建MaxCompute项目:打开MaxCompute控制台,点击左侧导航栏【工作区】-【项目管理】,选择【新建项目】

创建MaxCompute表:打开DataWorks控制台,左侧导航栏选择【数据开发与运维】->【数据开发】,进入数据开发界面,界面左侧导航栏【表管理】新建表,详细建表过程可参考文档。

自定义数据集写入

表结构新建好并提交发布后,您可以使用DataWorks通过数据集成任务、MaxCompute节点任务向MaxCompute表中写入数据,DataWorks深度适配数十种大数据及AI计算引擎进行数据集成,支持自定义数据集的开发与调度。此外,DataWorks还支持通过上传数据功能将本地数据导入MaxCompute表中。当然,也可以使用DataWorks对写入的数据进行二次开发。

四、微调DeepSeek R1 蒸馏模型部署及应用

通过MaxCompute和DataWorks创建完项目和表后,即可开始使用PAI平台开始使用自定义数据集微调DeepSeek-R1蒸馏模型,更多模型微调参考教程可参考人工智能平台 PAI 的部署及应用实践。

部署DeepSeek-V3、DeepSeek-R1模型_人工智能平台 PAI(PAI)-阿里云帮助中

使用PAI一键部署通义千问模型_人工智能平台 PAI(PAI)-阿里云帮助中心

通过EAS一键部署MLLM多模态大语言模型应用_人工智能平台 PAI(PAI)-阿里云帮助中心


http://www.kler.cn/a/565792.html

相关文章:

  • KubeSphere 企业版 v4.1.3 发布!可观测性深度优化,管理策略更灵活更安全
  • PyTorch深度学习框架60天进阶计划第11天:过拟合解决方案深度实践
  • 【六祎 - Note】SQL备忘录;DDL,DML,DQL,DCL
  • 大模型原理与技术(毛玉仁)
  • 头歌实验---C/C++程序设计:实验2:顺序结构程序设计
  • 【Git】版本控制系统Git命令详解
  • 团队协作中的分支合并:构建高效开发流程的关键
  • rust学习~tokio的io
  • 爱普生可编程晶振 SG-8101CE 在智能家居领域展现出的优势
  • CSS中文本属性使用详情
  • 智科技赋能宠物关怀新时代
  • IDEA提示将方法形参更改为(什么什么类型),要检查对应的实体类中的字段类型是否正确
  • 浏览器访问https站点的过程
  • 【azure openai】用tts实现语音对话【demo】
  • 前端项目中脚本文件打包,vscode中如何正确使用gtar命令
  • SslConnection::SslConnection()详解
  • 期权帮|沪深300股指期货合约技巧有哪些?
  • pwa的基本使用
  • Redis 源码分析-内部数据结构 robj
  • python生成的exe文件防止反编译(Nuitka)