OpenAI 建立监督委员会评价 AI 平安,并已开始训练新的 AI 模型

感谢据彭博社报道,OpenAI 建立了一个董事会委员会,用来评价其人工智能模型的平安性。这一举措距离该公司遣散内部平安团队以及平安问题负责人去职仅数周时间。此前,OpenAI 的管理问题受到了来自两位前董事会成员海伦・托纳 (Helen Toner) 和塔莎・麦考利 (Tasha McCauley) 的严厉攻讦。她们在周日的《经济学人》杂志上撰文,对 OpenAI 的管理方式提出质疑。新建立的委员会将在 90 天内评价 OpenAI 技术的保障措施,并提交报告。“董事会完成全面审查后,OpenAI 将以符合平安原则

感谢据彭博社报道,OpenAI 建立了一个董事会委员会,用来评价其人工智能模型的平安性。这一举措距离该公司遣散内部平安团队以及平安问题负责人去职仅数周时间。

此前,OpenAI 的管理问题受到了来自两位前董事会成员海伦・托纳 (Helen Toner) 和塔莎・麦考利 (Tasha McCauley) 的严厉攻讦。她们在周日的《经济学人》杂志上撰文,对 OpenAI 的管理方式提出质疑。

新建立的委员会将在 90 天内评价 OpenAI 技术的保障措施,并提交报告。“董事会完成全面审查后,OpenAI 将以符合平安原则的方式公开分享所采纳的建议,”该公司周二在其博客中写道。

OpenAI 还表示,他们最近已经开始训练其最新的 AI 模型。

去年秋天,OpenAI 首席执行官萨姆・阿尔特曼 (Sam Altman) 与联合创始人兼首席科学家伊利亚・苏茨凯沃 (Ilya Sutskever) 在人工智能产品开发速度和限制危害的措施上发生冲突,阿尔特曼在一次董事会政变中被短暂罢免。

本月,苏茨凯沃和他的得力助手 Jan Leike 离开公司,这两位科学家领导了 OpenAI 的超智能体对齐团队 (superalignment team),该团队专注于研究超人类人工智能的长期威胁。Leike 在辞职后写道,他的部门在 OpenAI 内部 “争夺计算资源” 方面遇到了困难。其他去职职工也表达了类似的攻讦意见。

苏茨凯沃去职后,OpenAI 遣散了他的团队。该公司周二表示,这项特殊工作将由其研究部门和新任命的对齐科学负责人、联合创始人约翰・舒尔曼 (John Schulman) 领导下继续进行。

IT之家注意到,上周 OpenAI 取销了一项政策,该政策规定如果前职工攻讦公司,将取销其股票期权。

OpenAI 新建立的平安委员会将由三位董事会成员组成,分别是董事长布雷特・泰勒 (Bret Taylor)、Quora 首席执行官亚当・德安杰洛 (Adam D’Angelo) 和索尼娱乐公司前高管妮可・塞利格曼 (Nicole Seligman),以及包括舒尔曼和阿尔特曼在内的六名职工。该公司表示将继续咨询外部专家,并提到了其中两位:唐纳德・特朗普时期国土平安部顾问罗布・乔伊斯 (Rob Joyce) 和乔・拜登总统任内司法部的前官员约翰・卡林 (John Carlin)。

给TA打赏
共{{data.count}}人
人已打赏
AI

AI在用 | 搞钱!收费AI开整治愈短视频,包教包会!

2024-5-28 19:20:00

AI

Chromebook Plus 笔记本迎来google Gemini 加持,AI 功用助力写作、图片处理等

2024-5-28 22:52:51

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索