AI在线 AI在线

System 2 蒸馏

Meta开发System 2蒸馏技术，Llama 2对话模型任务准确率接近100%

Meta开发System 2蒸馏技术，Llama 2对话模型任务准确率接近100%
研究者表示，如果 Sytem 2 蒸馏可以成为未来持续学习 AI 系统的重要特征，则可以进一步提升 System 2 表现不那么好的推理任务的性能。谈到大语言模型（LLM）的策略，一般来说有两种，一种是即时的 System 1（快速反应），另一种是 System 2（慢速思考）。其中 System 2 推理倾向于深思熟虑的思维，生成中间思维允许模型（或人类）进行推理和规划，以便成功完成任务或响应指令。在 System 2 推理中，需要付出努力的心理活动，尤其是在 System 1（更自动化思维）可能出错的情况下。因
7/15/2024 11:48:00 AM
机器之心
  • 1