OpenAI 调岗 AI 安全高管 Aleksander Madry,新职位专注于 AI 推理

OpenAI 首席执行官山姆・阿尔特曼(Sam Altman)本周二在 X 平台发布推文,表示在新一轮内部架构重组中,负责 AI 安全的主管亚历山大・马德里(Aleksander Madry)调岗,并将其重新分配到一个专注于人工智能推理的岗位。阿尔特曼在推文中表示:“Aleksander 正在从事一个新的、非常重要的研究项目”。阿尔特曼补充表示,OpenAI 高管华金・基诺内罗・坎德拉(Joaquin Quinonero Candela)和莉莉安・翁(Lilian Weng)将在此期间接管 Preparedness

OpenAI 首席执行官山姆・阿尔特曼(Sam Altman)本周二在 X 平台发布推文,表示在新一轮内部架构重组中,负责 AI 安全的主管亚历山大・马德里(Aleksander Madry)调岗,并将其重新分配到一个专注于人工智能推理的岗位。

阿尔特曼在推文中表示:“Aleksander 正在从事一个新的、非常重要的研究项目”。

阿尔特曼补充表示,OpenAI 高管华金・基诺内罗・坎德拉(Joaquin Quinonero Candela)和莉莉安・翁(Lilian Weng)将在此期间接管 Preparedness 团队。

OpenAI 安全团队简介

AI在线注:OpenAI 公司信任和安全部门主管戴夫・威尔纳(Dave Willner)于 2023 年 7 月离职之后,公司于同年 10 月将该部门拆分为 3 个团队:

安全系统(Safety Systems)团队:专注于高级人工智能模型和人工通用智能的安全部署,专注于减少对当前模型和产品(如 ChatGPT)的滥用。

超级对齐(Superalignment)团队:为该公司(希望)在更遥远的未来拥有的超级智能模型的安全性奠定基础

Preparedness 团队:负责绘制前沿模型的新风险,并对前沿模型进行安全评估,评估和减轻与人工智能相关的“灾难性风险”。

Aleksander 简介

该团队此前由 Aleksander 领导,帮助跟踪、评估、预测和防范由人工智能模型带来的灾难性风险,负责绘制前沿模型的新风险,并对前沿模型进行安全评估。

OpenAI 调岗 AI 安全高管 Aleksander Madry,新职位专注于 AI 推理

图源:Aleksander Madry LinkedIn

Aleksander 还是麻省理工学院可部署机器学习中心(Center for Deployable Machine Learning)的主任和麻省理工学院人工智能政策论坛(MIT AI Policy Forum)的教员联合负责人。

OpenAI 官方表示 Aleksander 在新岗位上仍将从事核心的人工智能安全工作。

相关资讯

继日本东京后,OpenAI 宣布在新加坡组建第二个亚洲办事处

感谢美国人工智能公司 OpenAI 周三宣布,计划今年晚些时候在新加坡开设办事处,并已开始在该国组建团队。该公司表示,新加坡将成为公司为亚太地区客户和合作伙伴提供支持的枢纽,其团队将帮助加强与当地和区域政府、企业和机构的关系。OpenAI 公司在声明中表示,新加坡人是 ChatGPT 人均用户最多的国家之一。据AI在线此前报道,OpenAI 今年 4 月宣布在亚洲的首个办事处落户日本东京,将业务扩展到亚洲。OpenAI 表示将致力于与当地政府、企业和研究机构合作,开发安全的人工智能工具,满足当地的独特需求。

OpenAI发布新安全框架,董事会有权否决CEO发布新模型

机器之能报道编辑:吴昕人类正在进入生成式 AI 新时代。而 OpenAI 在引导新技术朝着符合人类价值观和安全标准的方向所做的努力,也被视为行业的路标。还记得 Sam Altman 回归 OpenAI 时提到的「三个当务之急」吗?首当其冲的就是险些将他踢出公司的安全问题。现在,OpenAI  正力图系统化他们的安全思维。「我们的准备团队正在开展开创性工作,将安全发展成为一门定量科学。」 OpenAI 总裁 Greg Brockman 在社交平台上表示。本周一,公司在其网站上公布的一项计划,制定了一个框架来解决其最先

OpenAI 泄密者,投奔马斯克

刚被 OpenAI 开除的泄密者,光速投奔马斯克。当事人 Pavel Izmailov(以下简称小 P),正是 Ilya 盟友之一,在 Ilya 领导的超级对齐团队干过。半个月前,小 P 被指疑似泄露 Q * 相关机密而被开除。虽然不清楚他泄密了个啥,但当时闹得沸沸扬扬。说时迟那时快,现在,他的推特个人简介上,已经大张旗鼓写着:研究员 @xai要不说老马招人下手快呢,除了小 P,不少优秀人才近期都被马斯克揽入麾下。看热闹的网友炸开了锅。夸他的人不少,称他干得漂亮:也有人嫌弃死了,觉得雇佣泄露机密信息的人,这行为无异