Direct Preference Optimization: Your Language Model is Secretly a Reward Model
DPO直接偏好优化：你的语言模型实际上是一个奖励模型
前言知识储备
- 什么是用户偏好数据
目的：用于指导模型行为，使其输出更符合特定用户或者用户群体期望和喜好的信息。
用户偏好数据通常反映了用户对特定内容、风格、观点或者互动方式的倾向。
用户偏好数据的收集通常涉及直接反馈、隐式反馈、比较数据。
----直接反馈：评分、点赞或踩来表示喜好
----隐式反馈：分析用户的互动模式、搜索历史或点击行为来推断用户偏好
---- 比较数据：用户提供两个或多个输出的偏好选择，模型通过这些比较数据来学习用户的偏好
用户偏好可用于模型训练、模型微调、个性化体验
模型训练：训练阶段，用户偏好数据可以作为监督信号，指导模型学习生成更符合用户期望的输出
模型微调：在模型已经训练完成后，用户偏好数据可以进一步用来微调模型，以更好地适应用户的具体需求。
个性化体验：交互阶段，模型可以根据用户的偏好数据提供个性化的内容和服务。
- prompt
输入到模型中以生成特定输出或者响应的文本。prompt可以是任何形式的文本，包括问题、指令、句子片段、对话上下文等。
- RLHF
人类反馈强化学习（