win10 llamafactory模型微调相关②
微调
使用微调神器LLaMA-Factory轻松改变大语言模型的自我认知_llamafactory 自我认知-CSDN博客
【大模型微调】使用Llama Factory实现中文llama3微调_哔哩哔哩_bilibili
样本数据集
（数据集管理脚本处需更改，见报错解决参考1）
自我认知微调数据集 · 数据集
部分命令
大模型下载到本地（魔塔）
modelscope download --model Qwen/Qwen2.5-3B-Instruct --local_dir model/Qwen
转换为GGUF
python llama.cpp\convert_hf_to_gguf.py weitiao/模型名称
ollama注册大模型
ollama create 模型名称 -f C:\Users\Administrator\LLaMA-Factory\weitiao\模型名称-F16.mf
vllm在win10可能不可用
————
报错解决参考
1.训练样本json格式问题
LLAMA-Factory微调chatglm3-6b出现KeyError: ‘instruction‘错误_keyerror: 'instruction-CSDN博客
2. pytorch gpu国内镜像下载
pytorch gpu国内镜像下载，目前最快下载_pytorch镜像下载-CSDN博客