OpenAI 首席战略官 Jason Kwon:不会一夜之间突然发布一个“包罗万象”的 AI

韩媒“Chosun Ilbo”当地时间周二公布了 8 月 7 日对 OpenAI 首席战略官 Jason Kwon 的采访内容。Jason Kwon 负责监督 OpenAI 未来的战略制定,处理围绕 AI 的伦理和法律问题,同时也参与技术开发。图源 PexelsAI在线汇总对话主要内容如下:Jason Kwon 认为,关键技术发展到通用人工智能(AGI)可能还需几年时间。“我们内部假设这可能比预期更快到来,因此正在相应地准备安全措施。”尽管业界认为 AGI 可能在三到五年之间出现,但 Jason Kwon 认为这一

韩媒“Chosun Ilbo”当地时间周二公布了 8 月 7 日对 OpenAI 首席战略官 Jason Kwon 的采访内容。Jason Kwon 负责监督 OpenAI 未来的战略制定,处理围绕 AI 的伦理和法律问题,同时也参与技术开发。

OpenAI 首席战略官 Jason Kwon:不会一夜之间突然发布一个“包罗万象”的 AI

图源 Pexels

AI在线汇总对话主要内容如下:

Jason Kwon 认为,关键技术发展到通用人工智能(AGI)可能还需几年时间。“我们内部假设这可能比预期更快到来,因此正在相应地准备安全措施。”尽管业界认为 AGI 可能在三到五年之间出现,但 Jason Kwon 认为这一时间点会更早到来

但他同时也表示:“我们不会一夜之间突然发布一个包罗万象的 AI。”,因为要避免重大的社会冲击。尽管 AGI 技术的发展已经相当先进,其进展却被谨慎管理,以防止潜在的负面后果。“我们假设这种技术很快会实现,并正在寻找适当的管理方式。然而,技术的存在并不意味着它会立即成为产品。这类似于电的发明后,灯具和电器并不是第二天就出现了。核心技术的发展与其在社会中的应用之间可能存在很长的时间延迟。”

当谈到“人类是否有能力应对 AGI 带来的潜在威胁”时,Jason Kwon 认为,没有人确切知道 AGI 何时会到来,但企业需要做好准备。“我的工作是提供关于 AGI 潜在心理和经济影响的见解,为必要的法律提供建议,并指导企业如何与全球政府合作。我们一直认为 AI 应该受到监管,这一承诺始终未变。”

相关资讯

Just keep scaling!思维链作者Jason Wei 40分钟讲座剖析LLM扩展范式

关注 AI 领域的人对 Jason Wei 这个名字一定不陌生。 他是 OpenAI 的一位资深研究科学家,也常在 OpenAI 的发布活动中露脸。 更重要的是,他是思维链概念开山之作《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》的第一作者。

本科毕业加入谷歌,还写了「思维链」开山之作,这位OpenAI新秀正为本科生答疑解惑

本科毕业就加入谷歌,还以一作身份写出了「思维链」的开山之作,现在在 OpenAI 参与打造 ChatGPT,Jason Wei 从他的视角为年轻 AI 研究者提供了一些建议。

思维链提出者Jason Wei:关于大模型的6个直觉

大模型究竟从下一个词预测任务中学到了什么呢?还记得 Jason Wei 吗?这位思维链的提出者还曾共同领导了指令调优的早期工作,并和 Yi Tay、Jeff Dean 等人合著了关于大模型涌现能力的论文。目前他正在 OpenAI 参与 ChatGPT 的开发工作。机器之心曾经报道过他为年轻 AI 研究者提供的一些建议。近日,他以客座讲师的身份为斯坦福的 CS 330 深度多任务学习与元学习课程讲了一堂课,分享了他对大型语言模型的一些直观认识。目前斯坦福尚未公布其演讲视频,但他本人已经在自己的博客上总结了其中的主要内