当前位置: 首页 > article >正文

澎峰科技计算软件栈与沐曦GPU完成适配和互认证

近期,澎峰科技与沐曦完成了对PerfXLM(推理引擎)、PerfXCloud(大模型服务平台)与沐曦的曦云系列通用计算GPU的联合测试,测试结果表明PerfXLM、PerfXCloud软件与沐曦GPU产品实现了全面兼容

  • PerfXLM高性能大模型推理引擎与沐曦GPU硬件平台完成适配,PerfXLM采用云边端一体架构,支持云端和本地大模型推理。经过双方联合测试,PerfXLM对沐曦GPU硬件平台的兼容性、稳定性和可靠性上取得极大领先,部分指标实现了对NVIDIA A100的反超。PerfXLM 针对部分大模型的计算性能优化成果堪称卓越,多个主流模型在在该平台的推理总吞吐速度实现了最高达到50%的性能提升。标志着双方在CUDA生态兼容上实现再次突破。

图片

  • PerfXCloud大模型服务平台与沐曦的GPU硬件平台完成适配,并完成了超80种大模型的推理、微调(包括Qwen系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等)支持,兼容性在国内处于领先地位。未来,双方将不断丰富模型仓库,以满足多样化的应用需求,为用户提供更优质和便捷的模型服务,帮助智算中心升级进化为超级AI Foundry。

图片

此次合作,为国产计算软硬融合和产业链合作建立了示范。未来,双方将以市场需求为导向,共同探索更多可能性,为实现大模型人工智能技术的自主可控和可持续发展贡献力量。


http://www.kler.cn/a/514583.html

相关文章:

  • 计算机视觉——Intel RealSense D435的使用及python环境下的实现
  • 二、vue智能Ai对话(高仿通义千问)流式进阶版
  • 【Vim Masterclass 笔记25】S10L45:Vim 多窗口的常用操作方法及相关注意事项
  • RV1126+FFMPEG推流项目(8)AENC音频编码模块
  • 软件授权产品介绍
  • 【Java】阿里环球Antom支付对接
  • 2000-2010年各省第三产业就业人数数据
  • 【单层神经网络】快速入门AI系列
  • 超大型集团合并报表数智管理转型
  • C语言基础------练习1
  • 相机内参的作用原理
  • doris:Stream Load
  • 登录认证(4):令牌技术:JWT令牌
  • Selenium-WEB自动化测试环境配置
  • springBoot 整合ModBus TCP
  • EJB如何管理事务
  • Qt Creator 15.0.0如何更换主题和字体
  • 【Java】常用工具类方法:树形结构、获取IP、对象拷贝、File相关、雪花算法等
  • ubuntu 安装显卡驱动gpu-cuda
  • TiDB 对 Hadoop 的影响:大数据时代的新选择
  • 深入理解 Java 的并发容器
  • MongoDB部署模式
  • 《论文阅读》GPT-3是否会产生移情对话?一种新的情境示例选择方法和用于生成同理心对话的自动评估度量 ICCL 2022
  • 手机网络性能测试仪器介绍
  • c#配置config文件
  • 布局预览问题