当前位置: 首页 > article >正文

华为云函数计算FunctionGraph部署ollma+deepseek

1 概述

ollama和deepseek如果需要多实例,一种方式是部署在kubernetes集群中,一种是使用云厂商的云函数服务。云函数服务是按量付费,并且底层支持GPU,不需要维护kubernetes集群。本文介绍使用华为云函数计算FunctionGraph来部署ollma+deepseek。

2 部署

2.1 创建函数计算

函数的类型选择HTTP函数,权限委托是fgs_default_agency,使用的容器镜像为:

swr.cn-east-3.myhuaweicloud.com/custom_container/ollama-deepseek-r1:14b

在这里插入图片描述

2.1 函数开启GPU资源

函数创建完成后,需要启动GPU资源来运行deepseek。
在这里插入图片描述

2.3 函数开启HTTP触发器

在详细页面的[ 设置 ] --> [ 触发器 ],创建APIG触发器,表单数据如下图所示:
在这里插入图片描述
注意:分组的列表为空,只需要新建即可,名称可自定义。

创建APIG触发器成功后,如下图所示:
在这里插入图片描述

4 测试函数

在浏览器访问地址,地址为APIG触发器的调用URL,第一次访问时间会比较久,因为云函数的POD还未就绪,最终浏览器结果如下图所示:

在这里插入图片描述在这里插入图片描述
通过/api/tags接口可以得知,云函数部署的ollama实例运行着大模型deepseek-r1-14B。


http://www.kler.cn/a/544052.html

相关文章:

  • Flink内存配置和优化
  • 【通俗易懂说模型】一篇弄懂几个经典CNN图像模型(AlexNet、VGGNet、ResNet)
  • 【欧洲数据集】高分辨率网格气象数据集E-OBS
  • mysql读写分离与proxysql的结合
  • Linux之kernel(1)系统基础理论(2)
  • Hello Robot 推出Stretch 3移动操作机器人,赋能研究与商业应用
  • Java进阶阶段的学习要点
  • 联想电脑如何进入BIOS?
  • 汽车ADAS
  • Python基于Django的微博热搜、微博舆论可视化系统(V3.0)【附源码】
  • Ansible的主机清单
  • c/c++蓝桥杯经典编程题100道(21)背包问题
  • 【网络安全】常见网络协议
  • 【工业安全】-CVE-2019-17621-D-Link Dir-859L 路由器远程代码执行漏洞
  • JAVA安全—Shiro反序列化DNS利用链CC利用链AES动态调试
  • 23页PDF | 国标《GB/T 44109-2024 信息技术 大数据 数据治理实施指南 》发布
  • ASP.NET Core SignalR的协议协商
  • 在vivado中对数据进行延时,时序对齐问题上的理清
  • Web应用项目开发 ——Spring Boot邮件发送
  • 游戏引擎学习第100天
  • 【狂热算法篇】并查集:探秘图论中的 “连通神器”,解锁动态连通性的神秘力量(通俗易懂版)
  • esxi添加内存条因为资源不足虚拟机无法开机——避坑
  • 尚硅谷爬虫note002
  • Android Studio 打包App问题
  • 深入理解 Scoped CSS 的限制及其穿透方法
  • Synchronized使用