当前位置: 首页 > article >正文

基于PAI 低代码实现大语言模型微调和部署

基于PAI 低代码实现大语言模型微调和部署

  • 基于PAI 低代码实现大语言模型微调和部署
  • 释放资源
  • 使用体验

AI时代下,PAI快速开始(PAI-QuickStart)集成了业界流行的预训练模型,提供一站式、零代码的模型微调训练、服务部署、模型评测功能,帮助用户快速上手使用AI能力。模型涵盖众多AI场景,包括LLM、AIGC、CV、NLP等。
其实对于部署来说,阿里云实验室的部署步骤总是很详尽,这样带来的结果就是即使你是PAI平台操作小白,你也可以很轻松的实现你想要部署并达到的效果,这就是阿里云实验室的贴心。下面我们来操作部署一下今天的主角,部署地址:https://developer.aliyun.com/adc/scenario/f2f81c8f883543528140e80f1ced3069?

基于PAI 低代码实现大语言模型微调和部署

开始正式部署,我们点击上面提供的实验室部署地址打开操作页面
在这里插入图片描述
点击【立即开始】,默认选择个人账号资源,点击【确认开启实验】
在这里插入图片描述
点击【人工智能平台PAI】或者直接打开PAI控制台地址:https://pai.console.aliyun.com/?spm=a2c6h.13858378.0.0.73c8764ajE5TZP
在这里插入图片描述
如果没有创建过默认工作空间,是这样的
在这里插入图片描述
您可以选择需要开通的地域后,单击页面中间的【开通PAI并创建默认工作空间】配置开通参数
在这里插入图片描述
确认相关信息并完成配置后,单击【确认开通并创建默认工作空间】,当界面提示开通完成后,您即完成在当前地域的开通操作。我的账号已经开通过默认工作空间,那么我直接点击【工作空间列表】
在这里插入图片描述
点击工作空间名称,进入工作空间详情,点击【快速开始】-【Model Gallery】在搜索框输入【qwen2-0.5b-instruct】
在这里插入图片描述
点击模型名称【通义千问2-0.5B-Instruct】进入模型详情页面查看详情
在这里插入图片描述
单击右上角的【部署】按钮,在部署面板,配置保持默认即可,单击【部署】
在这里插入图片描述
在弹出的计费提醒,点击【确定】
在这里插入图片描述
服务创建中
在这里插入图片描述
等待大约等待3-5分钟,服务状态变为运行中,
在这里插入图片描述
服务部署完成后,单击【查看WEB应用】
在这里插入图片描述
进入在线测试页面,输入关键词信息【从中医角度分析 嗓子疼如何调养呢】
在这里插入图片描述
当然如果你有自己的数据,也可以选择【微调训练】,具体的操作按照文档操作就行。
在这里插入图片描述
由于PAI的资源费用相对于个人来说,比较贵,如果操作完成之后后面暂时不用的话,可以选择释放资源。

释放资源

进入工作空间默认工作空间页面,选择【Model Gallery】,点击【任务管理】
在这里插入图片描述
在任务管理页面选择【部署任务】,选择刚才部署的模型点击右侧【删除】
在这里插入图片描述
在弹出的提示页面点击【确定】
在这里插入图片描述
部署的模型任务进入【删除中】状态,整个删除过程大概耗时10分钟左右,耐心等待
在这里插入图片描述
那么到这里整个基于PAI-快速开始,低代码实现大语言模型微调和部署的操作就完成了。这里如果你部署完成之后不使用的话建议释放资源,资源占用是比较费钱且浪费服务资源的。

使用体验

对于机器学习平台PAI,本次基于PAI 低代码实现大语言模型微调和部署的操作整体上需要个人开发者操作的很少,创建默认工作空间之后找到对应的模型点击【部署】后续就可以等待部署成功在线测试了,整个操作过程没有什么难度,操作流程也是一如既往的顺畅,没有什么学习的成本,对于小白新手也比较友好,有专业的小白部署文档指导。唯一的一点就是对于个人开发者来说,个人体验部署的资费比较贵点,一小时14元左右,后期如果有免费体验资源就更完美了。


http://www.kler.cn/a/538775.html

相关文章:

  • Qt:常用控件
  • 数据结构与算法-递归
  • google 多模态aistudio Stream Realtime体验
  • 【Python实战练习】Python类中的方法:形式与作用详解
  • 安宝特方案 | AR助力制造业安全巡检智能化革命!
  • Listener监听器和Filter过滤器
  • python中的lambda function(ChatGPT回答)
  • 【算法刷题指南】二分查找
  • 电商java 面试题_JAVA电商项目面试题(一)
  • Windows图形界面(GUI)-QT-C/C++ - QT Dial
  • python连点器
  • 百度的冰桶算法
  • 未来十年的前端走向以及需要掌握什么技能
  • 搜维尔科技:提供人形机器人传感器的应用案例分析
  • 简单的Python记事本应用程序
  • 初次体验Tauri和Sycamore (2)
  • 使用 Apache Spark 进行大数据分析
  • c/c++蓝桥杯经典编程题100道(17)二叉树遍历
  • 网络安全 | F5 BIG-IP RESTful API 模块功能介绍
  • 如何精确掌控网页布局?深入解析 CSS 样式与盒模型
  • 程序员也可以这样赚钱
  • 【R语言】卡方检验
  • 微服务篇-深入了解索引库与文档 CRUD 操作、使用 RestCliet API 操作索引库与文档 CRUD(Java 客户端连接 Elasticsearch 服务端)
  • 递增三元组(蓝桥杯18F)
  • 如何在WPS和Word/Excel中直接使用DeepSeek功能
  • 网络通信的基石:深入理解 TCP/IP 协议栈与 TCP/UDP 协议