当前位置: 首页 > article >正文

Paddle Inference部署推理(十二)

十二:Paddle Inference推理 (python)API详解

15. PredictorPool 类

PredictorPoolPredictor 进行了简单的封装,通过传入 configthread 的数目来完成初始化,在每个线程中,根据自己的线程 id 直接从池中取出对应的 Predictor 来完成预测过程。

类及方法定义如下:

# PredictorPool 类定义
# 参数:config - Config 类型
#      size - Predictor 对象数量
class paddle.inference.PredictorPool(config: Config, size: int)

# 根据线程 ID 取出该线程对应的 Predictor
# 参数:idx - 线程 ID
# 返回:Predictor - 线程 ID 对应的 Predictor
paddle.inference.PredictorPool.retrive(idx: int)

代码示例:

# 引用 paddle inference 预测库
import paddle.inference as paddle_infer

# 创建 Config
config = paddle_infer.Config("./mobilenet_v1.pdmodel", "./mobilenet_v1.pdiparams")

# 创建 PredictorPool
pred_pool = paddle_infer.PredictorPool(config, 4)

# 获取 ID 为 2 的 Predictor 对象
predictor = pred_pool.retrive(2)


http://www.kler.cn/a/409585.html

相关文章:

  • 解!决!vscode!Path Intellisense 失效!不起作用问题!!
  • vscode可以编译通过c++项目,但头文件有红色波浪线的问题
  • RangeInt,开源一个有限范围计数器模块。c语言的。 可以用于单片机
  • CSP/信奥赛C++语法基础刷题训练(23):洛谷P1217:[USACO1.5] 回文质数 Prime Palindromes
  • JDBC 详解:从基础到高级完全指南
  • RocketMQ: Broker 使用指南
  • Flink Standalone 集群模式安装部署教程
  • 「Mac玩转仓颉内测版32」基础篇12 - Cangjie中的变量操作与类型管理
  • FileLink内外网文件共享系统与FTP对比:高效、安全的文件传输新选择
  • Js-对象-04-String
  • Leetcode 3366. Minimum Array Sum
  • 基于Vue+SpringBoot的考研学习分享平台设计与实现
  • 在Elasticsearch中,是怎么根据一个词找到对应的倒排索引的?
  • 使用JavaScript操作页面元素
  • Spring Boot整合Redis Stack构建本地向量数据库相似性查询
  • leetcode_160_相交链表
  • 微表情识别系统
  • 基于springboot的来访管理系统的设计与实现
  • H.265流媒体播放器EasyPlayer.js无插件H5播放器关于移动端(H5)切换网络的时候,播放器会触发什么事件
  • 【JSON】package.json与package-lock.json
  • 【可变参数,lambda,function,bind】
  • RabbitMQ 消息队列代码实战1
  • STL之哈希
  • arm学习总结
  • 【Electron学习笔记(一)】Electron基本介绍和环境搭建
  • mac Parallels Desktop 20 20.1.1-55740安装windows10教程