TensorRT_Win10上WSL实践篇

工程：
煤流检测 yolov8 的分割模型

环境：

首先打开WSL

wsl -d Ubuntu-22.04

1. WSL升级WSL2（必做）

WSL v1不支持直接使用Windows的GPU，就算做了下面的所有步骤也没办法用，torch.cuda.is_available()会永远返回FALSE，所以一定要检查使用的WSL版本，打开Powershell或者命令提示符输入：

wsl -l -v

查看VERSION下的数字，如果是1要升级到2，具体步骤请参考：Lighten：WSL1升级为WSL2

2. 安装 pytorch，cuda，cudnn

首先

因为yolov8 好像支持最新的pytorch 2.0.0系列，那我安装最新的

pytorch 2.1.1，需要 CUDA 11.8

通过 conda search cudatoolkit --info 查询存在 CUDA 11.8 安装包，

再看一下conda提供的所有cudatoolkit 查看cudnn版本:  conda search cudnn --info  ，也有

 CUDA 11.8 对应的 cudnn 版本，那就安装这个pytorch 2.1.1。

 cudatoolkit 11.8.0 h6a678d5_0
-----------------------------
file name   : cudatoolkit-11.8.0-h6a678d5_0.conda
name        : cudatoolkit
version     : 11.8.0
build       : h6a678d5_0
build number: 0
size        : 630.7 MB
license     : NVIDIA End User License Agreement
subdir      : linux-64
url         : https://repo.anaconda.com/pkgs/main/linux-64/cudatoolkit-11.8.0-h6a678d5_0.conda
md5         : 74f6c43e0670ebe1d1f8b7130d24030f
timestamp   : 2023-05-02 04:09:43 UTC
constraints :
  - __cuda >=11.0
dependencies:
  - libgcc-ng >=11.2.0
  - libstdcxx-ng >=11.2.0

然后安装你想要的cudatoolkit: conda install cudatoolkit==11.8.0

 CUDA 11.8 对应的 cudnn 版本： 

cudnn 8.9.2.26 cuda11_0
-----------------------
file name   : cudnn-8.9.2.26-cuda11_0.conda
name        : cudnn
version     : 8.9.2.26
build       : cuda11_0
build number: 0
size        : 469.4 MB
license     : Proprietary
subdir      : linux-64
url         : https://repo.anaconda.com/pkgs/main/linux-64/cudnn-8.9.2.26-cuda11_0.conda
md5         : e589bfd90e598c42a088794e61ad6be2
timestamp   : 2023-07-04 12:30:52 UTC
dependencies:
  - cudatoolkit 11.*

安装你想要的cudatoolkit: conda install cudnn==8.9.2.26

python

import torch
print(torch.cuda.is_available())

3. 安装 TRT 相关工具链

按照这篇文章来：yolov8 tensorrt模型加速部署[实战] - 知乎