当前位置: 首页 > article >正文

pytorch 49 GroundingDINO导出为onnx模型实现python与c++部署

本博文实现了在win环境下,将GroundingDINO模型导出为onnx模型,并基于cmakelist生成c++项目实现模型的部署。并分析了官方项目为什么不能直接导出onnx,主要基于https://github.com/wenyi5608/GroundingDINO项目公开的代码实现项目,只是补充了c++配置项,实现了模型转tensorrt格式。

在600x600的输入下,3060显卡,torch推理、python-onnx、c+±onxx推理速度均在0.1s左右。将模型转换为tensorrt后基于trtexec 工具测速,发现可以达到50ms一张图,后续将实现tensorrt c++的部署。

1、项目差异分析

1.1 IDEA-Research

项目地址:https://github.com/IDEA-Research/GroundingDINO

外层推理代码:
可以发现是直接将image和text输入到模型,基于这种方式是无法导出onnx模型

    caption = preprocess_caption

http://www.kler.cn/a/407295.html

相关文章:

  • 「Mac玩转仓颉内测版30」基础篇10 - 区间类型详解
  • Vue3响应式原理
  • ACP科普:约翰·科特变更
  • Spring Boot OA:企业办公自动化的高效路径
  • 使用chrome 访问虚拟机Apache2 的默认页面,出现了ERR_ADDRESS_UNREACHABLE这个鸟问题
  • 无监督跨域目标检测的语义一致性知识转移
  • 小白学多线程(持续更新中)
  • 法语旅游常用口语-柯桥学外语到蓝天广场泓畅学校
  • 鸿蒙NEXT开发案例:数字转中文大小写
  • 【SSL-RL】增强Curiosity-driven Exploration (CDE)算法的探索能力
  • [Java进阶] 反射机制及其应用场景
  • windows10 | mathtype导致word中ctrl+v不能用
  • 数据结构与算法——1120——时间空间效率问题求边界值
  • 【神经网络基础】
  • js判断一个对象身上是否有某个属性
  • 位运算算法
  • 5分钟轻松搭建Immich图片管理软件并实现公网远程传输照片
  • 嵌入式硬件实战基础篇(三)-四层板PCB设计-步进电机驱动(TMC2208/TMC2209)
  • Vim 命令、操作、文件操作示例
  • 40分钟学 Go 语言高并发:Context包与并发控制
  • React和Next.js的相关内容
  • Gate学习(4) 指令学习1
  • Python BeautifulSoup 常用语句详解
  • MySql四种事务隔离级别以及使用什么隔离级别可以解决幻读
  • 游戏引擎学习第20天
  • Android中的依赖注入(DI)框架Hilt