Llama 3.1 大模型指令微调提升中文能力
一、前言
Llama 3.1 是一个通用的大型语言模型，尽管它在多种语言上进行了训练，但在某些特定语言（如中文）上的表现可能不如专门针对该语言进行优化的模型。通过指令微调，可以提高模型在处理中文文本时的理解和生成能力。对于某些领域（如医疗、法律、科技等），可能存在大量的中文专业术语和特定表达。通过指令微调，可以让模型更好地理解和生成这些领域的中文内容。通用大模型Llama 3.1 在中文评测数据集C-Eval、CMMLU 上表现不佳，通过指令微调可以针对特定任务进行优化，提升模型在这些任务上的性能。
二、实验
指令微调
在基础模型 meta-llama/Meta-Llama-3.1-8B-Instruct 上使用近310K 中文样本进行指令微调（Instruction Fine-tuning），进一步提升Llama 3.1 模型的中文理解与生成能力。指令微调方法选用LORA，可调参数选择all，指令微调数据集参考 Chinese-LLaMA-Alpaca-3