浅谈人工智能之基于LLaMA-Factory进行Llama3微调

浅谈人工智能之基于LLaMA-Factory进行Llama3微调

引言

近年来，大规模预训练语言模型（如LLaMA）在自然语言处理任务中取得了显著的成功。LLaMA-Factory是一个针对LLaMA模型的微调工具，旨在简化和优化模型微调的过程。本文将详细探讨如何使用LLaMA-Factory对Llama3进行微调，以解决特定的下游任务。

LLaMA-Factory简介

LLaMA-Factory是一个开源框架，专门设计用于高效地微调LLaMA模型。它提供了灵活的接口和多个预配置的训练任务，用户可以根据自己的需求进行修改和扩展。该工具不仅支持单个GPU的训练，还可以在分布式环境中部署，具备良好的可扩展性。

微调Llama3的准备工作

在开始微调之前，确保已完成以下准备工作：
第一步：进入/mnt/workspace路径

cd /mnt/workspace

第二步：克隆LLaMA-Factory环境

git clone https://github.com/hiyouga/LLaMA-Factory.git

第三步：使用conda创建llama_factory并且激活进入

conda create -n llama_factory python=3.10
conda activate llama_factory

第四步：安装llama_factory依赖

cd LLaMA-Factory
pip install -e .[metrics]

下载Llama3模型

我们下载对应的大模型，操作如下
第一步：在/mnt/workspace路径下创建存放模型的文件夹并进入

mkdir models
cd models

第二步：我们使用阿里魔塔存放的精选，所以按照modelscope依赖

pip install modelscope

第三步：模型克隆

git clone https://www.modelscope.cn/LLM-Research/Meta-Llama-3-8B-Instruct.git

至此我们的准备工作做完。

lora微调

准备工作完成以后，我们就可以进行模型微调。
第一步：下载微调数据集，我们进入/mnt/workspace/LLaMA-Factory/data文件夹下，克隆数据集

https://www.modelscope.cn/d