randlanet 部署 -- 模型静态化
这里写目录标题
- 一、思路概述
- 二、ckpt 转 pb
一、思路概述
前面我们训练好了模型,得到的是 ckpt 模型,但是 ckpt 还不能直接用于 c++ 的推理部署,所以我们要先把模型给静态化,就是将 ckpt 转成 pb 文件,然后再由 c++ 加载 pb 文件,从而实现推理部署。
但是因为 Randlanet 的框架是直接将数据流传到其他的 node 的,所以 在 ckpt 转 pb 这个步骤 不能像其他的模型一样直接转换,而是要经过一些操作后才可以进行静态化。
二、ckpt 转 pb
randlanet是使用 dataset接口向网络中传输数据,而要想使用pb模型必须使用feed_dict()
的方式向计算图中输入数据,因此第一步需要将dataset
接口转换成placeholder
接口,重新保存模型。
这个操作是参考这篇文章来的,具体的展开大家有兴趣可以去看看:ckpt 转 pb
我们把所有的向量给拆分出来,为的是在推理的时候可以让 c++ 加载推理 pb 的时候有输出接口的名字