最接近GPT-4的国产大模型诞生了

2024 年,国产大模型的第一个重磅消息,来自智谱 AI。在 1 月 16 日举办的 2024 智谱 AI 技能开放日 Zhipu DevDay 上,智谱 AI 正式发布新一代基座大模型「GLM-4」。经历了三个月的技能迭代,GLM-4 相比上一代基座模型 GLM-3 实行了 60% 的机能全面提升,直接切近亲近 GPT-4。一方面,GLM-4 支持更长的上下文、更强的多模态才能;另一方面,GLM-4 支持更快的推理、更多并发,大大降低了推理成本。同时,GLM-4 也增强了智能体才能,智谱 AI 正式上线了「GLM-4

2024 年,国产大模型的第一个重磅消息,来自智谱 AI。

在 1 月 16 日举办的 2024 智谱 AI 技能开放日 Zhipu DevDay 上,智谱 AI 正式发布新一代基座大模型「GLM-4」

最接近GPT-4的国产大模型诞生了

经历了三个月的技能迭代,GLM-4 相比上一代基座模型 GLM-3 实行了 60% 的机能全面提升,直接切近亲近 GPT-4。

一方面,GLM-4 支持更长的上下文、更强的多模态才能;另一方面,GLM-4 支持更快的推理、更多并发,大大降低了推理成本。

同时,GLM-4 也增强了智能体才能,智谱 AI 正式上线了「GLM-4-All Tools」「GLMs」个性化智能体定制才能,在产品上持续全面对标 OpenAI。

这些全新进级后的才能,目前已经在智谱 AI 开放平台上线。

「正如我们在去年年初的承诺,2023 年底要实行切近亲近最先进的 GPT-4 机能的全栈自主创新的 GLM-4。今天,我们来交个答卷,也希望未来能以此为基础瞄向 AGI。」智谱 AI CEO 张鹏表示。

综合才能全面跃升

国产基座大模型比肩 GPT-4

一直以来,AI 领域内的研究者和从业者都以「GPT-4」作为大模型技能的标杆。而 GLM-4 的诞生,意味着国产大模型的程度真正做到了「比肩 GPT-4」。

据张鹏介绍,GLM-4 带来了 128K 上下文窗口长度,单次提示词可处理文本到达 300 页,在总结信息、内容抽取、繁复推理、代码等多个运用场景实行了繁复长文本才能。

智谱 AI 技能团队解决了长上下文全局信息因失焦导致的精度下降问题。在 needle test 大海捞针测试中,在 128K 文本长度内, GLM-4 模型可实行几乎 100% 精度召回。

最接近GPT-4的国产大模型诞生了

张鹏表示,GLM-4 机能已经超过 Claude 2.1,直接切近亲近 GPT 4 。

智谱 Al 进行的多项大模型权威评测的结果证实了这一说法,GLM-4 在 MMLU(81.5)到达 GPT-4 94% 程度,GSM8K(87.6) 到达 GPT-4 95% 程度,MATH(47.9)到达 GPT-4 91% 程度,BBH (82.25) 到达 GPT-4 99% 程度,HellaSwag  (85.4) 到达 GPT-4 90% 程度,HumanEval(72)到达 GPT-4 100% 程度。

最接近GPT-4的国产大模型诞生了

在指令跟随才能方面,GLM-4 也实行了媲美 GPT-4 的水准。根据指令跟随评估基准 IFEval 的结果,GLM-4 在 Prompt 提示词跟随(华文)方面到达了 GPT-4 88% 的程度;在指令跟随(华文)方面,到达了 GPT-4  90% 的程度。

最接近GPT-4的国产大模型诞生了

在实际落地运用过程中,模型的华文对齐才能格外重要,GLM-4 的表现也毫不逊色。

基于公开数据集 AlignBench 的评估结果,GLM-4 超过了 GPT-4 在 6 月 13 日发布的版本,切近亲近 GPT-4 最新(11 月 6 日版本)效果,在专业才能、华文理解、角色扮演方面超过了最新 GPT-4 的精度,唯一有待提升的是 GLM-4 在华文推理方面的才能。

最接近GPT-4的国产大模型诞生了

短短几个月,GLM-4 即可实行多项模型才能的飞跃,与智谱 AI 长期以来所坚持的「All in 大模型」路线密不可分。

自成立以来,智谱 AI 始终致力于打造新一代认知智能大模型,从一开始探索超大规模预训练模型算法,到训练从几十亿、几百亿到千亿级的模型,并逐步探索实行规模化的产业运用落地。

2020 年底,智谱 AI 从 0 起步研发 GLM 预训练架构,在确保机能的同时具有独立、自主、可控特性。2022 年,智谱 AI 率先推出中英双语千亿级超大规模预训练模型 GLM-130B,引发了全球关注。

在 2023 年的大模型浪潮之中,智谱 AI GLM 系列大模型保持每 3-4 个月进级一次的节奏,同时逐步具备了多模态理解、代码解释、网络搜索增强等新功能。

多模态才能的程度,是决定模型能否运用于繁复现实场景的关键因素。此次 GLM-4 的多模态才能能够实行长足的进步,正是基于不断进化的智谱 AI 多模态理解模型 CogVLM 和文生图模型 CogView。

其中,最新发布的 CogView3 效果明显超过开源最佳的 Stable Diffusion XL,切近亲近最新 OpenAI 发布的 DALLE・3。在对齐、保真、安全、组合布局等各个评测维度上,CogView3 的效果都到达 DALLE・3 90% 以上程度,平均到达 95% 左右的相对机能。

最接近GPT-4的国产大模型诞生了

GLM-4-All Tools 上线

产品持续对标 OpenAI

大模型本身还不足以解决所有问题,在实际的使用过程中,我们常常需要同时借助多种工具,比如网页浏览、数据分析、图像生成。

张鹏在演讲中提到了这一难点:「一直以来,普通用户甚至是开发者,需要用像魔法咒语一样的提示词或者机器才能解读执行的代码、调用大模型的各种才能,无论是回答问题、作画还是使用外部的知识源,总觉得大模型还是没那么聪明。」

这些繁复任务,都可以依靠「Agent」来完成。

强大的 Agent 才能,同样是提升 GLM-4 模型使用体验的关键因素之一。在这一次的技能开放日,智谱 AI 正式推出了「GLM-4-All Tools」。

「GLM-4-All Tools」提供了一系列强大的内置工具,让 GLM-4 实行了自主根据用户意图,自动理解、规划繁复指令,自由调用 WebGLM 搜索增强、Code Interpreter 代码解释器和多模态生成才能以完成繁复任务。开发者和用户可以更轻松地使用 GLM-4 模型,不再需要为提示词担心。

最接近GPT-4的国产大模型诞生了

在现场,我们也看到了多个功能演示:以文生图为例,GLM-4-All Tools 能够准确地根据上下文语境进行 AI 绘图创作:

最接近GPT-4的国产大模型诞生了

面对涉及繁复计算的指令,GLM-4 内嵌了代码解释器,能够自动进行繁复的方程或者微积分求解。对比 GSM8K、Math 以及 Math23K 三个数据集上的结果,GLM-4 取得了与 GPT-4 All Tools 相当的机能。

最接近GPT-4的国产大模型诞生了

此外,GLM-4-All Tools 可以自动处理各种任务,包括文件处理、数据分析、图表绘制等,处理的文件类型覆盖我们常用的 Excel、PDF、PPT 等格式。在信息检索方面,All Tools 使得 GLM-4 从早期的检索自动增强进级为目前模型对网页的自动浏览才能。

「GLM 系列模型的全家桶才能,终于实行了 All-In-One。」张鹏总结道。

从全行业的角度来说,GLM-4-All Tools 的意义或许更为突出。基于比肩 GPT-4 的基座大模型才能,这一功能的上线将为运用、行业模型和商业化落地案例开辟出更加广阔的实践空间。

立足智能体开发

携手开发者、社区构筑更繁荣生态

才能程度的高低决定了大模型能否在未来的竞争中生存下去,而围绕大模型构筑起完善的生态链能够助力它们走得更远。二者缺一不可,相互促进。

一直以来,智谱 AI 在推进自家 GLM 系列模型研发时注重才能与生态「并举」,从第一代大模型创办起便在生态建设层面下足功夫, 将广大开发者、用户、开源社区、科研界以及产业链上下游合作伙伴都纳入进来。

在这一次的技能开放日活动中,我们见证了智谱 AI 加速构建 GLM 模型生态的一系列举措。

一项重磅推出是「GLMs」个性化智能体定制才能,为包括无编程基础开发者在内的所有人提供了创办专属智能体的新渠道。

最接近GPT-4的国产大模型诞生了

目前,该功能已经上线智谱清言官网。基于 GLM-4 模型的强大基础才能,任何用户都可以使用简单的提示词创办定制化的 GLM 智能体。

最接近GPT-4的国产大模型诞生了

智谱清言官网同时上线的 GLM 智能体和智能体中心(用户可以分享自己创办的各种智能体)。

智能体创办地址:https://chatglm.cn/glms

至于效果怎样?张鹏现场让 GLM 智能体「智谱 DevDay」总结了技能开放日上午的议程,从结果来看,内容准确、没有遗漏。

最接近GPT-4的国产大模型诞生了

GLMs 定制化智能体可以让任何人使用并充分挖掘 GLM-4 模型的潜力,结合自身所在领域以及专业知识、创意和智慧,自由创办更加多样化的智能体,实行便捷开发,进一步构建开放的大模型社区生态。同时更多人参与其中有助于更大规模地推动大模型及智能体在垂直场景和领域的部署,为运用落地提供了新的方式。

接下来,GLMs 模型运用商店以及开发者分成计划也将同期发布。这些与 GLMs 智能体一道构成了智谱 AI 在扩大开发者生态层面的重要尝试和迈出的关键步伐,让开发者运用大模型的门槛不断降低。

最接近GPT-4的国产大模型诞生了

对于模型开源和对开源社区的贡献,智谱 AI 也一直走在国内外前列。智谱 AI 先后开源了中英双语对话大模型 ChatGLM-6B 和 ChatGLM2-6B,全球累计下载量超过了 1000 万,GitHub 星标累计超过 5.4 万。这些开源模型也「开花结果」,开发者已经在其上开发出了 600 多项优秀的大模型运用开源项目。

最接近GPT-4的国产大模型诞生了

此次,智谱 AI 为开源社区带来了更多好消息,让我们看到了其围绕开源模型构筑更繁荣开源社区、建立更大模型生态的决心。

智谱 AI 针对开源社区发起了开源开放的大模型开源基金,概括为三个「一千」:

为大模型开源社区提供 1000 张卡;

提供 1000 万现金支持与大模型相关的开源项目;

为优秀的开源开发者提供 1000 亿免费 API tokens。

这些都是智谱 AI 为开发者和开源社区谋得的实打实的实惠,通过奖励为大模型普及、推广和运用做出贡献的开发者组织和个人,充分调动他们的积极性,进一步推动大模型研发,促进整个开源生态的发展。

最接近GPT-4的国产大模型诞生了

同时面向科研界,联合中国计算机学会和中国华文信息学会社会媒体处理专委会分别发起了 CCF – 智谱大模型基金和 SMP – 智谱大模型交叉学科基金,围绕预训练大模型理论、算法、模型、运用以及与各领域的交叉创新做「深」文章。

为了助力生态伙伴走好大模型创业的「长征路」,智谱 AI 还面向全球大模型初创团队和小微企业进级了「Z 计划」创业基金,总额 10 亿人民币,覆盖大模型算法、底层算子、芯片优化、行业大模型和超级运用,旨在支持更多大模型原始创新和才能进级。

最接近GPT-4的国产大模型诞生了

大模型的研发和运用涉及繁复的产业链条,任重而道远。从上述措施中,我们看到了智谱 AI 对于开发者生态、开源社区和客户的坚定承诺。

正如张鹏所言:「一枝独秀不是春,中国人工智能事业要繁荣、要发展,需要所有的参与者、产业链上下游合作伙伴、开发者社区、学术界一同努力。智谱不仅有意愿,而且有才能为打造繁荣的国产大模型生态贡献自己的力量。」

最接近GPT-4的国产大模型诞生了

GLM 系列模型的合作伙伴已达 2000 多家,其中 200 多家参与模型深度共创与共建。

AGI 元年,智谱 AI 开局就要争先

自 ChatGPT 推出以来,我们见证了轰轰烈烈的百模大战、此起彼伏的 AIGC 运用落地以及成为厂商全新角逐点的 AI Agent。要想在每一个阶段都不被落下,则要事事争先、抓住每一次发展时机。

面向即将到来的更激烈的大模型之争,智谱 AI 已经做好了准备。正如此次技能开放日的一系列模型发布和才能进级,其每次都能给出及时的回应:

一方面不断夯实并进级 GLM 基座大模型的才能,并抓住 AI Agent 发展契机形成自己的 GLM 智能体发展体系,将大模型的运用做得更深、更广、更全;另一方面联动开发者、社区、科研界以及客户等各方,无死角地构筑起一个更宏大的模型生态圈层,打造更完整的生态链。

2024 年伊始,智谱 AI 带来了国产大模型带来了好消息,并以此为起点瞄准 AGI 之路。在未来的技能求索和产业运用道路上,智谱 AI 会成为最先赶超 OpenAI 的国内大模型创业力量吗?我们拭目以待。

给TA打赏
共{{data.count}}人
人已打赏
应用

ICLR 2024领受率31%,清华LCM论文作者:讲个笑话,被拒了

2024-1-17 14:55:00

应用

AI PC热再现CES2024,行业求解落地路线

2024-1-17 17:46:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索