身份偏好优化

尽管收集人类对模型生成内容的相对质量的标签，并通过强化学习从人类反馈（RLHF）来微调无监督大语言模型，使其符合这些偏好的办法极大地推动了对话式人工智能的发展。但由于 RLHF 是一个复杂且常常不稳定的过程，关于直接应用优化函数将人类的偏好和模型的结果从事对齐的研究成为时下的热点问题。本文是 hugging face 上的一篇博客，针对时下常见的三种人类偏好优化算法从事了本能比较。作家从事了大量的…