AI在线 AI在线

百度飞桨框架 3.0 正式版发布,五大特性专为大模型设计

作者:汪淼
2025-04-03 08:50
飞桨框架 3.0 号称从设计理念上实现了从底层硬件适配到顶层开发体验的全面进化,已面向开发者开放,并且兼容 2.0 版本的开发接口。

百度本月发布飞桨框架 3.0 正式版,五大特性专为大模型设计

图片

作为大模型时代的 Infra“基础设施”,深度学习框架的重要性愈发凸显,大模型训练、推理等任务都离不开深度学习框架的优化与支撑。

飞桨框架 3.0 号称从设计理念上实现了从底层硬件适配到顶层开发体验的全面进化,AI在线附具体介绍如下:

图片

飞桨提出的“动静统一自动并行”技术,大幅降低大模型开发训练成本,让算法创新回归核心价值创造;

“训推一体”设计理念打破了训练与推理的割裂状态,通过全方位深度优化,飞桨框架 3.0 能够支持众多开源大模型进行高性能推理,并在 DeepSeek V3 / R1 上取得了突出的性能表现。目前,飞桨框架 3.0 支持文心 4.5、文心 X1 等多款主流大模型,DeepSeek-R1 满血版单机部署吞吐提升一倍。通过技术算法创新,飞桨让低时延、高吞吐、低算力成本的推理服务成为了现实;

在科学智能领域,飞桨框架 3.0 锚定科学前沿探索需要,提升微分方程求解速度。通过高阶自动微分和神经网络编译器技术,加速微分方程求解,速度比 PyTorch 开启编译器优化后的 2.6 版本平均快 115%。飞桨还对 DeepXDE、Modulus 等主流开源科学计算工具进行了广泛适配,并成为 DeepXDE 的默认推荐后端。其展现的科学智能潜力在气象预测、生命科学、航空航天等领域具有广泛的应用价值

在运算速度上,借助创新研制的神经网络编译器 CINN,实现性能的显著提升,在 A100 平台上 RMSNorm 算子进行性能测试,相较于采用 Python 开发接口组合实现的方式,经过编译优化后的算子运行速度提升了 4 倍;使用超过 60 个模型进行实验,使用 CINN 编译器后超 60% 模型有显著性能提升,平均提升达 27.4%

在硬件适配方面,飞桨框架 3.0 推出了多芯片统一适配方案,构建“一次开发,全栈部署”的生态体系。目前已适配超过 60 个芯片系列,覆盖训练集群、自动驾驶、智能终端等场景,开发者只需编写一份代码,就可以让程序在不同芯片上顺畅运行,轻松实现业务的跨芯片迁移。

截至 2024 年 10 月,飞桨文心生态已凝聚 1808 万开发者,服务了 43 万家企事业单位,创建了 101 万个模型。

飞桨框架 3.0 正式版本已面向开发者开放,并且兼容 2.0 版本的开发接口。

相关标签:

相关资讯

调查:超72% 的企业选择 AI 工具时最看重易用性

根据最近的一项 CIO 报告,企业在人工智能(AI)领域的投资高达2.5亿美元,尽管在证明投资回报率(ROI)方面面临挑战。 商业领袖们正努力提高生产力,但新技术的集成往往需要重构现有应用、更新流程并激励员工学习,以适应现代商业环境。 QuickBlox 首席执行官 Nate MacLeitch 对136位高管进行了调查,以揭示 AI 采用的现实情况,探讨领导者的首要任务、主要担忧以及他们在2025年寻找可信工具的信息来源。
3/18/2025 10:02:00 AM
AI在线

降低门槛,全平台应用,昇腾还会手把手地教你如何用AI

机器之心报道作者:泽南如何才能做到 AI 应用一次开发,全场景部署?昇腾给出了答案。如今的大多数 AI 应用程序都需要跑在多种类型的处理器上,覆盖数十个版本的操作系统,运行在从端侧到云计算集群的各种设备上。这样复杂的环境,对软件的适应性和模型的可裁剪、可伸缩性提出了极高要求。AI 开源框架也在顺应这股潮流,昇腾发布的 CANN、MindSpore、MindX 等工具,可以让开发者实现「统一端边云,全端自动部署」,开启了机器学习开发的新时代,一直被人们寄予厚望。昇腾的 AI 全栈软件平台。其中,基础架构作为连接硬件与
3/19/2021 11:23:00 AM
机器之心

院士、委员、专家共议“双智建设”:场景驱动、标准协同、以人为本

智能网联汽车和智慧城市基础设施,已经成为日常生活中随处可见的元素。2021年,住建部和工信部将16个城市列为双智试点城市,探索智慧城市基础设施与智能网联汽车协同发展。试点城市提供了哪些思路?双智的未来该走向何处?这些问题成为当前双智行业关注的重点。近日,由腾讯智慧交通、腾讯研究院联合举办了“双智建设专家研讨会“,共同探讨双智建设的新思路、新机遇。中国工程院院士郭仁忠、全国政协委员、交通运输部科学研究院副院长兼总工程师王先进、中国电动汽车百人会秘书长兼首席专家张永伟、中国信息通信研究院副院长王志勤、中国城市规划设计研
3/15/2022 4:10:00 PM
新闻助手