离线偏好优化

为了将大型语言模型（LLM）与人类的价值和意图对齐，学习人类反馈至关重要，这能确保它们是有用的、诚实的和无害的。在对齐 LLM 方面，一种有效的方法是根据人类反馈的强化学习（RLHF）。尽管经典 RLHF 方法的结果很出色，但其多阶段的过程依然带来了一些优化难题，其中涉及到训练一个嘉奖模型，然后优化一个方略模型来最大化该嘉奖。近段时间已有一些研究者探索了更容易的离线算法，其中之一便是直接偏好优化（…