当前位置: 首页 > article >正文

【1.4 Getting Started--->Support Matrix】

主页:支持矩阵
这些支持矩阵概述了 TensorRT API、解析器和层支持的平台、特性和硬件功能。

Support Matrix

Abstract

这些支持矩阵概述了 TensorRT API、解析器和层所支持的平台、功能和硬件功能。

有关之前发布的 TensorRT 文档,请参阅 TensorRT 档案。

1. Features for Platforms and Software

本节列出了所支持的 NVIDIA® TensorRT™ 功能(基于平台和软件)。
在这里插入图片描述
注意

  • 序列化引擎无法跨平台移植。
  • 如果使用版本兼容标志创建序列化引擎,它可以与同一主要版本中的较新版本的 TensorRT 一起运行。
  • 如果在启用硬件兼容模式的情况下创建序列化引擎,它可以在多种 GPU架构上运行;具体情况取决于所使用的硬件兼容级别。否则,序列化引擎无法跨设备移植。
  • 有关特定 NVIDIA 驱动程序版本,请参阅NVIDIA CUDA 发行说明中的​​最低兼容驱动程序版本。

2. Hardware and Precision

下表列出了 NVIDIA 硬件以及每种硬件支持的精度模式。TensorRT 已编译为支持所有具有 SM 7.0 或更高功能的 NVIDIA 硬件。该表还列出了此硬件上 DLA 的可用性。有关具体信息,请参阅下表。
在这里插入图片描述
弃用的硬件
在这里插入图片描述

3. Compute Capability Per Platform

本节列出了基于平台支持的计算能力。
在这里插入图片描述

4. Software Versions Per Platform

本节列出了基于平台支持的软件版本。
在这里插入图片描述
注意:使用 Debian 或 RPM 包以及使用 Python wheel 文件时支持 Python 版本 3.8、3.9、3.10、3.11 和 3.12。

5. ONNX Operator Support

TensorRT 的 ONNX 运算符支持列表可在此处找到。


http://www.kler.cn/a/405333.html

相关文章:

  • tomcat 后台部署 war 包 getshell
  • element-plus的组件数据配置化封装 - table
  • 数据库类型介绍
  • vue2 src_消息订阅和发布(pubsub-js)
  • Linux INPUT 子系统详解
  • 内存(RAM)详细介绍
  • aws建立多区域只读库
  • sigmoid和softmax的异同以及对应的loss解析
  • Java解析视频FPS(帧率)、分辨率信息
  • MySQL UPDATE语句执行链路解析
  • 攻克OCR手写识别难点!InkSight教程上线,实现高精度转写;iNatSounds数据集发布,含23万自然物种音频
  • K8S资源限制之LimitRange
  • VUE:基于MVVN的前端js框架
  • 如何使用tesseract的C++接口做字符识别
  • 一文详细了解websocket应用以及连接断开的解决方案
  • 【Kafka 实战】Kafka 如何保证消息的顺序性?
  • C/C++语言基础--C++检测内存泄露方法、RALL思想模型
  • RTPS通信使用的socket和端口
  • 从零开始:如何使用第三方视频美颜SDK开发实时直播美颜平台
  • 在 Swift 中实现字符串分割问题:以字典中的单词构造句子
  • 摸一下elasticsearch8的AI能力:语义搜索/vector向量搜索案例
  • GPU服务器厂家:为什么要选择 GPU 服务器?
  • 包装器与绑定器
  • 06、Spring AOP
  • Bug Fix 20241122:缺少lib文件错误
  • 低速接口项目之串口Uart开发(四)——UART串口实现FPGA内部AXILITE寄存器的读写控制