当前位置：首页 > article >正文

MiNiGPT4安装记录

article 2024/11/20 0:46:44

装conda

wget https://repo.anaconda.com/archive/Anaconda3-5.3.0-Linux-x86_64.sh
chmod +x Anaconda3-5.3.0-Linux-x86_64.sh
./Anaconda3-5.3.0-Linux-x86_64.sh
export PATH=~/anaconda3/bin:$PATH # 或者写到环境保护变量
# 不会弄看这吧 https://blog.csdn.net/wyf2017/article/details/118676765

下载代码装依赖

git clone https://github.com/Vision-CAIR/MiniGPT-4.git
cd MiniGPT-4
conda env create -f environment.yml
source activate minigpt4

拉模型

apt-get install git-lfs
git lfs install

可选的模型List：

git clone https://huggingface.co/lmsys/vicuna-13b-delta-v0  # more powerful, need at least 24G gpu memory
# or
git clone https://huggingface.co/lmsys/vicuna-7b-delta-v0  # smaller, need 12G gpu memory

git clone https://huggingface.co/lmsys/vicuna-13b-delta-v1  # more powerful, need at least 24G gpu memory
# or
git clone https://huggingface.co/lmsys/vicuna-7b-delta-v1  # smaller, need 12G gpu memory

LLama模型

git clone https://huggingface.co/decapoda-research/llama-13b-hf
# or
git clone https://huggingface.co/decapoda-research/llama-7b-hf

这里后文用的v0，7b的以及llama-7b-hf
所以执行：

# 下载好慢，建议开两个终端一起拉
git clone https://huggingface.co/lmsys/vicuna-7b-delta-v0
git clone https://huggingface.co/decapoda-research/llama-7b-hf

下好了长这样：
在这里插入图片描述

模型关联

安装关联工具

git clone https://github.com/lm-sys/FastChat.git

# 退回v0.1.10版本，如果是v1的模型，可以不用考虑
cd FastChat
git checkout f34f28cedcb8906fd026f22ec3ef41435a8e24ac

# python3 -m pip install --upgrade pip  # enable PEP 660 support
python3 -m pip install -e .

改个小bug：

vim llama-7b-hf/tokenizer_config.json
# 把下图圈起来的改成LlamaTokenizer

在这里插入图片描述

合并模型：

python3 -m fastchat.model.apply_delta --base ./llama-7b-hf  --target ./vicuna_weight/  --delta ./vicuna-7b-delta-v0

下载minigpt4的权重

谷歌云盘prerained_minigpt4_7b.pth
谷歌云盘pretrained_minigpt4.pth
或者csdn的资源：
csdn

配置权重路径

修改eval_configs/minigpt4_eval.yaml的ckpt字段，改成prerained_minigpt4_7b.pth的路径：
在这里插入图片描述
修改minigpt4/configs/models/minigpt4.yaml的llama_model字段，改成合并模型的权重

启动

python3 demo.py --cfg-path eval_configs/minigpt4_eval.yaml  --gpu-id 0

可能的报错

httpx.InvalidURL: Invalid port：

解决：csdn

cuda_setup is not defined

解决：pip install bitsandbytes==0.38.1

ImportError: libGL.so.1: cannot open shared object file: No such file or directory

解决：apt-get update && apt-get install -y python3-opencv

RuntimeError: probability tensor contains either inf, nan or element < 0

解决：minigpt4/conversation/conversation.py第155行删除do_sample=True但是这样会导致输出为空…
第二种解决方案需要16GB的显卡资源：如下设置该字段为False即可（错误原因是8bit量化的问题，应该是浮点数截断了导致全0或者全NaN）：
在这里插入图片描述