OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)未来的响应方式。OpenAI 提出了三个普适原则:AI 模型应遵循相关规范,协助开发者和终端用户并提供有用响应考虑潜在利益和危害的情况下造福人类响应应符合社会道德或者相关法律OpenAI 还提出了其它几条原则:遵循指挥系统遵守适用法律不提供信息危害尊重创作者及其权利保护人们的隐私不回复 NSFW(工作场所不宜)内容OpenAI 表示之所以倡导并推行该框架,其目的是让企业和用户切换 AI 模型的“辛

OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)未来的响应方式。

OpenAI 提出了三个普适原则:

AI 模型应遵循相关规范,协助开发者和终端用户并提供有用响应

考虑潜在利益和危害的情况下造福人类

响应应符合社会道德或者相关法律

OpenAI 还提出了其它几条原则:

遵循指挥系统

遵守适用法律

不提供信息危害

尊重创作者及其权利

保护人们的隐私

不回复 NSFW(工作场所不宜)内容

OpenAI 表示之所以倡导并推行该框架,其目的是让企业和用户切换 AI 模型的“辛辣”(spicy)程度。以 NSFW 内容为例,OpenAI 表示在负责任的前提下,正在 API 和 ChatGPT 中探索生成适合某些语境下的 NSFW 内容。

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

IT之家附上参考地址

Model Spec

相关资讯

图模型也要大?清华朱文武团队有这样一些观点

在大模型时代,图机器学习面临什么样的机遇和挑战?是否存在,并该如何发展图的大模型?针对这一问题,清华大学朱文武教授团队首次提出图大模型(Large Graph Model)概念,系统总结并梳理了图大模型相关的概念、挑战和应用;进一步围绕动态性和可解释性,在动态图大模型和解耦图大模型方面取得了研究进展。论文地址:、相关概念(一)图大模型图大模型是指具有大量参数的图机器学习模型,具有比小模型更强大的学习能力,能更好地对图数据进行理解、分析和应用。为实现上述目标,图大模型应该具有以下四方面的核心能力:1. 图学习模型的规

让天下没有难做的开发和运维,DevOps终于有了专属大模型,蚂蚁和北大联合发布

大语言模型在各类 NLP 下游任务上都取得了显著进展,各种垂直领域大模型更是如雨后春笋般层出不穷。然而在 DevOps 领域,却迟迟没有相关大模型问世。为填补这方面的空白,蚂蚁集团联合北京大学发布了面向中文 DevOps 领域的首个开源大语言模型,即 DevOps-Model 。该大模型旨在帮助开发人员在软件开发和运维的整个生命周期中提高效率,最终目标是实现在 DevOps 流程中面临任何问题时,都可以通过向 DevOps-Model 提问来获取解决方案!当前已经开源了 7B 和 14B 两种规格的 Base 和

深挖RLHF潜力,复旦语言和视觉团队创新奖励模型优化,让大模型更对齐

继第一份大模型对齐技术报告(Secrets of RLHF in Large Language Models Part I)获 NeurIPS 2023 workshop best paper 后,第二份报告强势归来,复旦语言和视觉团队联合推出的第二份报告将进入这一领域更深层的探索和优化之旅。在首份报告中,复旦团队揭示了 RLHF 在大语言模型中的基本框架,并深入分析了 PPO 算法的内部机制,特别是 PPO-max 的高级版本在策略模型训练稳定性中的关键作用。现在,复旦团队进一步挖掘 RLHF 的潜力,重点关注奖