AI在线 AI在线

红线

姚期智等数十名中外专家签署北京 AI 安全国际共识：禁止 AI 自行复制

姚期智等数十名中外专家签署北京 AI 安全国际共识：禁止 AI 自行复制
据腾讯科技报道，包括图灵奖得主约书亚・本吉奥、杰弗里・辛顿、姚期智等在内的数十位的中外专家日前在北京联合签署了由智源研究院发起的《北京 AI 安全国际共识》，涉及人工智能“风险红线”和“路线”两大块，其中“风险红线”包含“自主复制、改进”“权力寻求”“协助不良行为者”和“欺骗”四个部分。IT之家整理四部分内容大致如下：人工智能的“自主复制、改进”：强调人在该过程的作用，要求任何人工智能系统都不应在人类没有明确批准和协助的情况下复制或改进自身，包括制作自身的精确副本、创造具有相似或更高能力的新人工智能系统。“权力寻求
3/18/2024 5:23:01 PM
清源
  • 1