图灵奖得主 Yoshua Bengio:人类仍缺乏可靠的方法来管理和约束 AI

他也认为,AI“内部推理能力”的成功带来了新的风险——目前人类仍然缺乏可靠的方法来管理和约束AI。

当地时间周二,图灵奖得主、计算机科学家 Yoshua Bengio 在《金融时报》上发表文章,表达自己对于人工智能的最新看法。

他表示,人们一直认为 AI 的一大核心弱点是其缺乏“思考”能力 —— 即内部推理能力。但 OpenAI 在这一领域最近取得了进展,这使自己和许多专家认为,我们可能正在迈向弥合人工智能与人类推理能力差距的关键时刻。

图灵奖得主 Yoshua Bengio:人类仍缺乏可靠的方法来管理和约束 AI

OpenAI 的最新进展依托 o1 大型语言模型,这一模型具备一定的内部推理能力,目前尚未对公众全面开放。这一趋势标志着 AI 发展的新方向:不仅依赖更大的模型和更多的数据,还需要投入更多时间进行推理。这种方法在数学、计算机科学及其他科学领域的大量推理任务中展现出卓越性能。

他也认为,这种技术的成功带来了新的风险 —— 目前人类仍然缺乏可靠的方法来管理和约束 AI。“例如,o1 的评估显示其欺骗人类的能力有所增强,这正是目标实现能力提升的自然结果。更令人担忧的是,o1 在协助制造生物武器方面的能力已达到 OpenAI 的中等风险级别,这是公司定义的最高容忍度(尽管这一标准可能存在降低外界担忧的动机)。”

据AI在线此前报道,OpenAI 本月中旬被曝计划于 2025 年 1 月,以研究预览和开发工具的形式,推出名为“Operator”的自动化 AI 智能体,可以独立控制计算机并执行各种任务。

相关资讯

2024世界人工智能大会暨人工智能全球治理高级别会议全体会议在上海举办,推动智能向善造福全人类

2024年7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议-全体会议在上海世博中心举办。联合国以及各国政府代表、专业国际组织代表,全球知名专家、企业家、投资家1000余人参加了本次会议,围绕“以共商促共享,以善治促善智”的大会主题展开深入交流研讨。多元交融的全球议题人工智能是人类发展新领域,其快速发展对经济社会发展和人类文明进步产生了深远影响,也带来了未知风险和复杂挑战。本届大会全体会议直面人工智能治理这一全球性议程,聚焦发展、安全、治理,开展了一系列国际性、跨领域、多视角的深入研讨。清华大学苏世民书

每年颁发两个图灵奖?《ACM通讯》主编发文提议推动图灵奖改革

如果真的改革,百万奖金需要打对折吗?

2021图灵奖揭晓:高性能计算先驱、超算TOP500榜单创始人之一Jack Dongarra获奖

他曾说过:未来的计算架构会是 CPU 和 GPU 的结合。