OpenAI 回应员工担忧:支持监管,必要保障措施到位前不发 AI 新技术

OpenAI 和谷歌 DeepMind 员工联名发声,担忧高级 AI 风险巨大,亟需加强监管,对此 OpenAI 今天发布声明,强调该致力于提供功能强大且安全的人工智能系统。IT之家翻译 OpenAI 公司官方声明内容如下:我们为自己能提供能力最强、最安全的人工智能系统而感到自豪,并坚信我们能以科学的方法应对风险。鉴于 AI 技术的重要性,我们认同公开信中的内容,如何通过严肃的讨论,对于更好推进 AI 技术发展至关重要。我们将继续接触各国政府、民间社会和世界各地的其他社区,共同营造和谐的 AI 环境。包括匿名诚信热

OpenAI 和谷歌 DeepMind 员工联名发声,担忧高级 AI 风险巨大,亟需加强监管,对此 OpenAI 今天发布声明,强调该致力于提供功能强大且安全的人工智能系统。

IT之家翻译 OpenAI 公司官方声明内容如下:

我们为自己能提供能力最强、最安全的人工智能系统而感到自豪,并坚信我们能以科学的方法应对风险。

鉴于 AI 技术的重要性,我们认同公开信中的内容,如何通过严肃的讨论,对于更好推进 AI 技术发展至关重要。

我们将继续接触各国政府、民间社会和世界各地的其他社区,共同营造和谐的 AI 环境。

包括匿名诚信热线、由董事会成员和公司安全领导者参与的安全与安保委员会( Safety and Security Committee)在内,都是监管 AI 的有效手段。

OpenAI 指出在必要的保障措施到位之前,公司不会发布新的 AI 技术。公司重申支持政府监管,并参与人工智能安全自愿承诺。

OpenAI 回应员工担忧:支持监管,必要保障措施到位前不发 AI 新技术

图源 Pixabay

对于报复行为的担忧,发言人证实,公司已解除了所有前员工的非贬损协议,并从标准离职文件中删除了此类条款。

相关资讯

顶尖风投大佬:AI 最大的风险是不以最大努力追求它

最近,马克·安德森在公司网站公开了一篇战斗檄文 why AI will save the world ,大胆质疑当前对 AI 监管呼吁的合理性,系统批评了这些呼声赖以成立的论据。本文结合作者过往的采访、文章甚至推崇的经济学家、政治家观点,分五个部分对其核心内容做了更为深入的分析和解读,帮助读者了解为什么他会认为乐观总是最安全的选择,同时看到悲观主义、怀疑论所蕴含的风险。在很多人看来,这些观点或许有些疯狂,以这样的方式去思考也很困难。但就像马克·安德森说的,通过与人论战,你可以大致建立一个关于别人的思维方式的模型,可

日本政府将探讨 AI 法律监管:约束虚假信息传播,监管不力或受罚

据日本共同社报道,日本政府将开始探讨针对大规模人工智能(AI)开发者采取法律监管,拟对未充分完善虚假信息对策等情况设置罚则。日本政府此前对于人工智能等领域的态度是“尊重企业的自主努力”,但由于 AI 带来虚假信息传播、侵权等多种问题,因而作出判断,认为有必要采取“以 AI 为直接对象”的有约束力的监管。报道提到,鉴于欧盟(EU)等各国和地区开始针对 AI 出台具有强制力的监管,日本也开始转变方针。该国将于近期召开专家等组成的“AI 战略会议”,该国政府预计将会就采取一定程度监管的必要性提出问题,并有意愿把法律监管的

英国着手起草 AI 法规,确保其发展处于可控状态

根据彭博社报道,英国目前正在起草 AI 监管草案,进一步加强对 GPT-4 等 AI 模型的监管力度,确保 AI 发展处于可控状态,不会对人类造成潜在危害。英国科学、创新和技术部(DSIT)目前已经开始起草相关的法案,最早可能会在 2024 年年底前发布,或者于 2025 年年初在法国举行的人工智能会议上公布。IT之家从报道中获悉,英国此前对待 AI 一直采取谨慎的态度,英国首相苏纳克(Rishi Sunak)在去年举行的首届世界领导人人工智能峰会上表示,各国不应“急于监管”人工智能。不过英国文化、媒体与体育部的官