本地部署AI大模型之PyTorch：如何使用whl文件安装PyTorch

如果想在本地安装只支持CPU的PyTorch，可以参考这篇博客。

我们需要安装支持CUDA 12.6版本的PyTorch，但是我们在直接使用官网上的指令("pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126")安装PyTorch时报了如下的错误：

因此，我们准备使用whl文件来安装PyTorch（包括torch, torchvision, torchaudio这三个package）。

要下载 PyTorch的 .whl 文件，可以按照以下方法操作：

1. 从 PyTorch 官方网站下载

1. 访问 PyTorch 下载页面：

   1. 打开浏览器，访问https://download.pytorch.org/whl/cu126 （因为我们想下载的是支持cuda 12.6版本的Pytorch，如果想用别的版本的cuda，比如12.4的话，把前面的链接中的"cu126"改成"cu124"即可）。

2. 选择合适的版本：

   1. 根据你的 Python 版本和 CUDA 版本，选择相应的 .whl 文件。例如，我们使用的是 Python 3.11 和 CUDA 12.6，可以下载 torch-2.6.0+cu126-cp311-cp311-win_amd64.whl（Windows 系统）或 torch-2.6.0+cu126-cp311-cp311-linux_aarch64.whl（Linux 系统）。
   2. 同样，对于torchvision，根据Python版本和CUDA12.6，我们可以下载torchvision-0.21.0+cu126-cp311-cp311-win_amd64.whl（Windows 系统）或 torchvision-0.21.0+cu126-cp311-cp311-linux_x86_64.whl（Linux 系统）。
   3. 同样，对于torchaudio，根据Python版本和CUDA12.6，我们可以下载torchaudio-2.6.0+cu126-cp311-cp311-win_amd64.whl（Windows 系统）或 torchaudio-2.6.0+cu126-cp311-cp311-linux_x86_64.whl（Linux 系统）。

3. 下载文件：

   1. 点击链接下载 .whl 文件到本地。

2.安装 .whl 文件

1. 安装 .whl 文件：
   1. 下载完成后，打开命令提示符或终端，导航到 .whl 文件所在的目录，运行以下命令：

pip install <filename>.whl

将 <filename> 替换为你下载的 .whl 文件的名称。例如：

pip install torch-2.6.0+cu126-cp311-cp311-win_amd64.whl

安装完成后，可以看到下面的结果：

最后，检查一下本地是否能够使用PyTorch。我们通过在本地的Python文件中检查是否能够import torch来判断是否能够使用PyTorch：

出现上图中红框的结果的话，则表明PyTorch安装成功。