安装 Docker GPU 版本的过程及遇到的坑
首先，安装的 Docker 版本并不支持 GPU，因此需要安装支持 GPU 的 Docker 版本。然而，在安装和配置过程中，遇到了一系列问题和挑战。
错误的安装步骤
以下是我在尝试安装 GPU 版本时，执行的错误操作：
# 安装 NVIDIA 驱动
sudo apt-get update
sudo apt-get install -y nvidia-driver-460
# 添加 NVIDIA 运行时配置
sudo mkdir -p /etc/systemd/system/docker.service.d
sudo tee /etc/systemd/system/docker.service.d/override.conf <<EOF
[Service]
ExecStart=
ExecStart=/usr/bin/dockerd --host=fd:// --add-runtime=/usr/bin/nvidia
EOF
# 重新启动 Docker 服务
sudo systemctl daemon-reload
sudo systemctl restart docker
这段脚本是根据 GPT 提供的方案执行的，但我没有注意到它可能会导致一些问题。最终我发现，在执行完该脚本后，Docker 无法启动，并且出现了以下错误：
xtx@dell-PowerEdge-R750:~$ nvidia-docker --version
nvidia-docker: command not found
发现问题：NVIDIA 驱动安装冲突
接下来，我发现 nvidia-smi 无法执行，也无法找到 NVIDIA 相关的命令。通过检查 NVIDIA 驱动，发现系统中安装了多个版本的 NVIDIA 驱动。
dpkg -l | grep nvidia
于是，我尝试卸载了 nvidia-driver-460，但问题依旧存在：
sudo apt-get remove --purge nvidia-driver-460
多次尝试卸载仍然没有解决问题，驱动仍然有冲突。于是决定彻底清理所有 NVIDIA 驱动，并重新安装：
# 清除所有 NVIDIA 驱动
sudo apt-get purge nvidia*
# 更新包管理器
sudo apt-get update
# 安装正确版本的 NVIDIA 驱动
sudo apt-get install nvidia-driver-470 nvidia-utils-470
重新安装驱动后，虽然成功安装了 NVIDIA 驱动，但执行 nvcc -V 命令时没有任何输出。这时我怀疑问题可能与 CUDA Toolkit 无关，因为在安装驱动时并没有安装 CUDA。
权限问题及解决
接下来，我检查了 ~/.bashrc 文件，确认路径没有问题。然而，考虑到权限问题，我以 root 用户身份进行检查，发现没有问题。这一步解决了驱动的问题。
安装 Docker GPU 版本及其问题
接下来，我按照官方教程安装 Docker 的 GPU 版本，并配置了相应的 NVIDIA 运行时。但在启动 Docker 时，遇到了如下错误：
(tx) xtx@dell-PowerEdge-R750:/data/xtx/nnUNet/nnunetv2/inference$ systemctl status docker.service
Warning: The unit file, source configuration file or drop-ins of docker.service changed on disk. Run 'systemctl daemon-reload' to reload units.
× docker.service - Docker Application Container Engine
Loaded: loaded (/lib/systemd/system/docker.service; enabled; vendor preset: enabled)
Drop-In: /etc/systemd/system/docker.service.d
└─override.conf
Active: failed (Result: exit-code) since Thu 2025-01-16 13:39:52 CST; 7min ago
TriggeredBy: × docker.socket
Docs: https://docs.docker.com
Process: 113728 ExecStart=/usr/bin/dockerd --host=fd:// --add-runtime=/usr/bin/nvidia (code=exited, status=1/FAILURE)
Main PID: 113728 (code=exited, status=1/FAILURE)
CPU: 92ms
解决问题的过程
一开始，我尝试按照网上的建议修改 /etc/docker/daemon.json 文件，切换到国内镜像源。然而，修改后仍然报错。接着，我打开了 override.conf 文件，发现最初配置中使用了 ExecStart=/usr/bin/dockerd --host=fd:// --add-runtime=/usr/bin/nvidia 这一行，而这一行实际上导致了启动失败。
最终，我删除了这行配置，并重新加载并重启了 Docker 服务：
# 重新加载 systemd 配置
sudo systemctl daemon-reload
# 重启 Docker 服务
sudo systemctl restart docker
此时，Docker 成功启动，问题得到解决。
简单总结一下
平常使用GPT习惯了，感觉简单问题直接按照它的命令行输入就行，没有仔细理解该指令背后的含义，从而导致版本冲突。另外，发生问题太依赖GPT和教程了，缺少自己的反思。
再面对类似的问题时，应该从头逐步排除法，从系统配置到具体服务的每一步都要仔细检查。解决问题的关键往往是细致入微的排查和多角度的分析。即便是看似简单的操作，背后也可能隐藏着复杂的系统交互和配置依赖。