DeepSeek开源多模态大模型Janus-Pro部署
DeepSeek多模态大模型部署
- 请自行根据电脑配置选择合适
- 环境配置
- 安装conda以及git
- Janus 项目以及依赖安装
- 运行
- cpu运行
- gpu运行
- 进入ui界面
请自行根据电脑配置选择合适
本人家用电脑为1060，因此部署的7B模型。配置高的可以考虑更大参数的模型。
环境配置
安装conda以及git
点我下载git
点我下载conda
Janus 项目以及依赖安装
git clone https://github.com/deepseek-ai/Janus.git
conda create -n myenvp python=3.10 -y
conda activate myenvp
cd Janus
pip install -e .
pip install gradio
pip uninstall torch torchvision torchaudio -y
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
运行
cpu运行
python demo/app_januspro.py
gpu运行
python demo/app_januspro.py --device cuda
进入ui界面
http://127.0.0.1:7860点我即可使用
公网地址会自动生成，如图所示：
我找了个网图，由于担心版权问题我没有发全，同时你会发现AI它可以识别出来P图。
