Sytem 2 Attention

作者表示，这种全新注意力体制（Sytem 2 Attention）或许你也需要呢。大型语言模型（LLM）很强已经是一个不争的现实，但它们有时仍然容易犯一些简单的错误，表现出较弱的推理能力。举个例子，LLM 可能会因不相干的上下文或者输出提醒中固有的偏好或意见做出错误的判断。后一种情况表现出的课题被叫做「曲意逢迎」，即模型与输出保持一致。有没有要领来缓解这类课题呢？有些学者试图通过添加更多监督训练数…