当前位置: 首页 > article >正文

randlanet 部署 -- 模型静态化

这里写目录标题

  • 一、思路概述
  • 二、ckpt 转 pb

一、思路概述

前面我们训练好了模型,得到的是 ckpt 模型,但是 ckpt 还不能直接用于 c++ 的推理部署,所以我们要先把模型给静态化,就是将 ckpt 转成 pb 文件,然后再由 c++ 加载 pb 文件,从而实现推理部署。

但是因为 Randlanet 的框架是直接将数据流传到其他的 node 的,所以 在 ckpt 转 pb 这个步骤 不能像其他的模型一样直接转换,而是要经过一些操作后才可以进行静态化。

二、ckpt 转 pb

randlanet是使用 dataset接口向网络中传输数据,而要想使用pb模型必须使用feed_dict()的方式向计算图中输入数据,因此第一步需要将dataset接口转换成placeholder接口,重新保存模型。

这个操作是参考这篇文章来的,具体的展开大家有兴趣可以去看看:ckpt 转 pb

我们把所有的向量给拆分出来,为的是在推理的时候可以让 c++ 加载推理 pb 的时候有输出接口的名字


http://www.kler.cn/a/562774.html

相关文章:

  • ClickHouse 的分区、分桶和分片详解
  • AIGC-LLAMA模型介绍
  • 在 Ubuntu 下通过 Docker 部署 Mastodon 服务器
  • adb的安装
  • 顾客关系管理CRM思维导图模版
  • 【hot100】刷题记录(29)-搜索二维矩阵
  • PINN求解固体力学问题——论文加代码
  • 通过阿里云RDS排查解决MYSQL慢SQL--图文教学
  • LeetCode 589
  • 编程小白冲Kaggle每日打卡(16)--kaggle学堂:<机器学习简介>欠拟合与过拟合
  • Java 网络协议面试题答案整理,最新面试题
  • C++ 二叉树的后序遍历 - 力扣(LeetCode)
  • 通过Sidecar模式实现服务注册、服务发现和负载均衡的分布式系统架构
  • 自动驾驶FSD技术的核心算法与软件实现
  • HarmonyOS组件开发规范文档之理解与总结
  • 跟着官方文档学习UE C++ TArray容器系列 迭代
  • 详解直方图均衡化
  • 【算法】哈希表详解
  • C语言实战项目(1)---------->猜数字游戏
  • Redis面试题----为什么要做Redis分区?