感谢当地时间 27 日，OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型，用于寻找 ChatGPT 谈天机器人输出内容中的过失。它可以撰写评论，强调 ChatGPT 生成谜底中不准确的所在。据介绍，CriticGPT 旨在协助人类 AI 训练员完成职业 —— 使用一种名为“从人类反应中强化学习（IT之家注：Reinforcement Learning from Human Feedback，RLHF）”的技术来训练、改进 GPT-4 的回覆。然而随着 ChatGPT 的准确性日益提升，
感谢当地时间 27 日，OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型，用于寻找 ChatGPT 谈天机器人输出内容中的过失。它可以撰写评论，强调 ChatGPT 生成谜底中不准确的所在。
据介绍，CriticGPT 旨在协助人类 AI 训练员完成职业 —— 使用一种名为“从人类反应中强化学习（IT之家注：Reinforcement Learning from Human Feedback，RLHF）”的技术来训练、改进 GPT-4 的回覆。
然而随着 ChatGPT 的准确性日益提升，过失愈来愈隐蔽，导致 AI 训练员的职业愈来愈“难做”。OpenAI 对此解释称，这是 RLHF 的基本局限之一 —— 模型逐渐变得比任何可以提供反应的人都更博学，模型的协调可能也会随之变得愈来愈困难。
目前，当 CriticGPT 试图从 ChatGPT 的回覆中发现过失时，它的一双“鹰眼”就会发挥作用。OpenAI 指出，现实世界中的过失可能遍布谜底的多个部分，这是 CriticGPT 未来必要办理的问题。“我们的职业重点是可以在一个所在指出过失，但将来我们也必要办理分散的过失。”