【1.4 Getting Started--->Support Matrix】
主页:支持矩阵
这些支持矩阵概述了 TensorRT API、解析器和层支持的平台、特性和硬件功能。
Support Matrix
Abstract
这些支持矩阵概述了 TensorRT API、解析器和层所支持的平台、功能和硬件功能。
有关之前发布的 TensorRT 文档,请参阅 TensorRT 档案。
1. Features for Platforms and Software
本节列出了所支持的 NVIDIA® TensorRT™ 功能(基于平台和软件)。
注意:
- 序列化引擎无法跨平台移植。
- 如果使用版本兼容标志创建序列化引擎,它可以与同一主要版本中的较新版本的 TensorRT 一起运行。
- 如果在启用硬件兼容模式的情况下创建序列化引擎,它可以在多种 GPU架构上运行;具体情况取决于所使用的硬件兼容级别。否则,序列化引擎无法跨设备移植。
- 有关特定 NVIDIA 驱动程序版本,请参阅NVIDIA CUDA 发行说明中的最低兼容驱动程序版本。
2. Hardware and Precision
下表列出了 NVIDIA 硬件以及每种硬件支持的精度模式。TensorRT 已编译为支持所有具有 SM 7.0 或更高功能的 NVIDIA 硬件。该表还列出了此硬件上 DLA 的可用性。有关具体信息,请参阅下表。
弃用的硬件
3. Compute Capability Per Platform
本节列出了基于平台支持的计算能力。
4. Software Versions Per Platform
本节列出了基于平台支持的软件版本。
注意:使用 Debian 或 RPM 包以及使用 Python wheel 文件时支持 Python 版本 3.8、3.9、3.10、3.11 和 3.12。
5. ONNX Operator Support
TensorRT 的 ONNX 运算符支持列表可在此处找到。