ModelScope;Ollama搭建本地大模型
在 Windows 上实现 Qianwen 部署
以下是几种在 Windows 上实现 Qianwen 部署的方法:
使用 ModelScope 部署
- 环境配置 :
- 安装 Anaconda,安装完成后配置环境变量,可在系统高级配置中添加以下变量:
%ANACONDA_HOME%
、%ANACONDA_HOME%\Scripts
、%ANACONDA_HOME%\Library\mingw-w64\bin
、%ANACONDA_HOME%\Library\usr\bin
、%ANACONDA_HOME%\Library\bin
。 - 创建一个名为 qwen 的 Conda 虚拟环境,例如在命令行中输入
conda create -n qwen python=3.10
,然后使用conda activate qwen
激活该环境。 - 在虚拟环境中安装 ModelScope,执行命令
pip install modelscope
。
- 安装 Anaconda,安装完成后配置环境变量,可在系统高级配置中添加以下变量: