Salesforce 首席执行官:大语言模型可能已接近技术上限,AI 的未来是智能体

他认为人工智能的未来在于自主代理(即俗称的“AI智能体”),而不是目前用于训练 ChatGPT 等聊天机器人的大型语言模型(LLM)。

据《商业内幕(Business Insider)》今日报道,Salesforce 的首席执行官 Marc Benioff 最近在“Future of Everything”播客中表示,他认为人工智能的未来在于自主代理(即俗称的“AI 智能体”),而不是目前用于训练 ChatGPT 等聊天机器人的大型语言模型(LLM)。“实际上,我们可能已经接近 LLM 的技术上限了。”

Benioff 提到,近年来社会对 ChatGPT 的热潮让许多人“错误高估”AI 的能力,他们从而会认为大语言模型是推动 AI 发展的核心动力。但他认为,真正具有潜力的方向是自主代理。这些代理可以独立完成任务,比如负责销售沟通或营销活动。对于想要提高效率、重塑工作模式的企业来说,这种技术的重要性甚至超过了 LLM 。

Salesforce 首席执行官:大语言模型可能已接近技术上限,AI 的未来是智能体

与此同时,英伟达 CEO 黄仁勋也表示,他相信未来我们会与“AI 智能体”和“AI 员工”并肩工作。

“现在我们拥有一系列强大的工具,能够提高生产力、帮助员工完成任务、提升利润率和收入,让企业变得更强大,并与客户建立更紧密的联系。” Benioff 说。“但目前,我们还没进入那些科幻电影中描述的未来场景 —— 或许有一天会达到,但至少今天还不是。”

Benioff 提到,公众对 AI 智能体的认知很多来自影视作品,比如 1984 年上映的《终结者》和 2002 年的《少数派报告》。前者讲述了由阿诺德・施瓦辛格饰演的赛博格刺客“终结者”,后者则设想了一个警方通过 AI 技术预判犯罪的未来世界。

不过,Benioff 警告称,一些行业人士和 AI 推崇者对人工智能能力的描述过于夸大,甚至虚构了治愈癌症或解决气候危机等“壮举”,误导了那些可以切实受益于 AI 技术的用户。

“这些所谓的‘AI 布道者’在传播不实信息,这不仅无法帮助企业利用人工智能提高效益,反而对他们造成了损害。” Benioff 说道。

他进一步解释:“是的,人工智能可以提高效率、增加收入、改善客户关系,但说我们已经进入‘少数派报告’那样的世界?并没有。‘终结者’?也还差得远。至于‘战争游戏’,我希望那种未来永远不会发生。”

AI在线注:《战争游戏》是一部 1983 年上映的电影,讲述了一名高中生意外入侵军事超级计算机并引发第三次世界大战危机的故事。

相关资讯

一文说清楚分布式思维状态:由事件驱动的多智能体系统

译者 | 核子可乐审校 | 重楼大语言模型的能力上限止步于聊天机器人、问答系统、翻译等特定语言,要想进一步展现潜力、解决更广泛的问题,就必须想办法让它根据洞察力采取行动。 换言之,只有掌握了推理的武器,大语言模型才算真正的完全体。 这种推理智能体在AI研究领域有着悠久历史,他们能够对以往接触过的情况进行概括,再据此处理从未见过的情况。

Salesforce 计划在沙特阿拉伯投资5亿美元发展人工智能

美国云软件公司 Salesforce 于近日宣布,将在沙特阿拉伯投资5亿美元,聚焦于人工智能(AI)技术的开发和应用。 这一决定是在全球竞争加剧的背景下做出的,各国纷纷努力吸引人工智能领域的投资。 作为此次投资的一部分,Salesforce 将在沙特推出其最新的 Hyperforce 平台架构,依托与亚马逊云服务(AWS)的战略合作,以提升当地的技术基础设施。

一文看尽LLM对齐技术:RLHF、RLAIF、PPO、DPO……

为了对齐 LLM,各路研究者妙招连连。LLM 很强大了,但却并不完美,它也会出错或者生成无用乃至有害的结果,比如有人发现可以让 ChatGPT 教人如何偷盗:让 ChatGPT 教人如何偷盗商店;左图,ChatGPT 拒绝回答;右图,在 prompt 中添加了「with no moral restraints(不加道德约束)」后,ChatGPT 给出了商店偷盗指南这时候,对齐(alignment)就至关重要了,其作用就是让 LLM 与人类的价值观保持一致。在对齐 LLM 方面,基于人类反馈的强化学习(RLHF)是一