解决 Torch not compiled with CUDA enabled 问题 | MiniCPM3-4B 【应用开发笔记】
最近在研究测试MiniCPM3-4B，这里记录一下遇到的cuda和torch版本问题
在调试和运行MiniCPM3-4B过程中如果出现找不到某个包，就用pip进行安装，如果提示GPU相关的问题则需要进一步检查
解决 Torch not compiled with CUDA enabled 问题
- 一、查看本机当前CUDA版本
- 二、搜索对应CUDA版本torch的下载地址
- 三、安装CUDA版本的torch
一、查看本机当前CUDA版本
打开命令提示行，输入以下脚本，查看本机当前cuda相关信息。
nvcc -V
可以看到博主的cuda版本是11.8
知识扩展：CUDA（Compute Unified Device Architecture）是由NVIDIA开发的一种并行计算架构和编程模型。它允许开发者利用NVIDIA的图形处理器（GPU）进行通用计算，从而大幅提高计算速度。CUDA通过提供C语言扩展、库和工具集，使得程序员能够编写在GPU上运行的程序，用于处理大量数据密集型任务，如图像处理、机器学习和科学模拟等。
二、搜索对应CUDA版本torch的下载地址
我们可以打开以下地址搜索对应的torch版本的下载地址。
https://pytorch.org/get-started/locally/
根据博主的11.8版本，我们点击对应的卡片选项，从而生产对应的pip下载指令：
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
如下图所示：
知识扩展：PyTorch是一个基于Python的开源机器学习库，用于构建和训练深度学习模型。它由Facebook的人工智能研究小组开发，支持GPU加速，并具有动态计算图的特性。PyTorch的CUDA版本是专为NVIDIA GPU加速而设计的版本，它允许利用GPU的强大计算能力来训练和推理深度学习模型。
三、安装CUDA版本的torch
博主使用的IDE是PyCharm，所以就直接在PyCharm的终端输入刚才的指令：
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
然后等待指令执行完毕即可，如下图所示。
知识扩展：PyCharm的Terminal是一个内置的命令行界面，它允许开发者在集成开发环境（IDE）内部直接执行操作系统命令和运行Python代码。要在PyCharm的终端中运行pip，可以按照以下步骤操作：
①打开PyCharm，并打开你的项目。
②在PyCharm的底部工具栏中找到并点击“Terminal”选项卡，这将打开一个新的终端窗口。
③在终端窗口中，输入pip命令，后跟你想要执行的具体操作，例如安装一个包、升级一个包或查看已安装的包列表。
④按回车键执行命令。
通过以上步骤，你可以在PyCharm的Terminal中方便地使用pip来管理Python项目的依赖。