【服务器环境安装指南-指定 cuda 版本】在 Ubuntu 22.04 上完成 cuda-toolkit 12.0 和 cudnn 12.x 的安装教程

0.引言

在深度学习和高性能计算领域，CUDA 和 cuDNN 是不可或缺的工具。为充分发挥硬件性能，我们需要在服务器环境中正确配置这些工具。然而，安装过程中可能会遇到诸多挑战，例如版本兼容性和环境变量设置等问题。本篇文章将以 Ubuntu 22.04 为基础，详细介绍如何安装 CUDA Toolkit 12.0 和 cuDNN 12.x，并确保安装后能够顺利运行，为您的计算任务奠定坚实的基础。按照以下步骤操作，轻松完成安装与配置。

1. 查看系统信息

uname -a

cat /proc/version

Ubuntu 22.04 cuda 12.4（可向下兼容）

2. 安装 cuda-toolkit

2.1 安装 cuda-toolkit 12.0

https://developer.nvidia.com/cuda-toolkit-archive

wget https://developer.download.nvidia.com/compute/cuda/12.0.0/local_installers/cuda_12.0.0_525.60.13_linux.run

chmod +x cuda_12.0.0_525.60.13_linux.run
sh cuda_12.0.0_525.60.13_linux.run

有白色背景块的就是选择的部分：

（和上面的路径一样）

2.2 安装成功

2.3 修改环境变量

vim ~/.bashrc

export CUDA_HOME=$CUDA_HOME:/home/XX/cuda/cuda-12.0
export PATH=$PATH:/home/XX/cuda/cuda-12.0/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/XX/cuda/cuda-12.0/lib64

source ~/.bashrc

3. 安装 cudnn

3.1 安装 cudnn 12.x

https://developer.nvidia.com/rdp/cudnn-archive

下载好以后上传至服务器，然后解压到当前路径

tar xvJf cudnn-linux-x86_64-8.9.0.131_cuda12-archive.tar.xz

此时当前目录下回出现一个 cudnn-linux-x86_64-8.9.0.131_cuda12-archive 的文件夹

3.2 复制文件到 cuda 安装目录

cp /home/XX/Downloads/cudnn/cudnn-linux-x86_64-8.9.0.131_cuda12-archive/include/cudnn.h /home/XX/cuda/cuda-12.0/include/

cp /home/XX/Downloads/cudnn/cudnn-linux-x86_64-8.9.0.131_cuda12-archive/lib/libcudnn* /home/XX/cuda/cuda-12.0/lib64/

修改权限 安装完成

chmod a+r /home/XX/cuda/cuda-12.0/include/cudnn.h /home/XX/cuda/cuda-12.0/lib64/libcudnn*

3.3 安装成功

输入nvcc -V 显示安装成功