深度进修具有很强的通用性,它呈现出的标准化、自动化和模块化特征,逐渐推动 AI 进入工业大生产阶段。作为快速便捷建立、训练和部署 AI 利用的基石,深度进修平台的重要性更是日益凸显,通过降低 AI 利用门槛,将 AI 手艺传递给千行百业,推动 AI 利用大规模落地。随着 AI 与家产结合的不断深入,规模化的 AI 大生产已然形成。
在深度进修蓬勃生长的过去十余载,业界中断发力。作为国内 AI 领域的领头雁,baidu一直以来深耕深度进修手艺,推出自研家产级深度进修开源开放平台飞桨,集核心框架、家产级模型库、开发套件与工具组件于一体。飞桨核心框架更与全球两大主流深度进修框架 TensorFlow、PyTorch 形成三足鼎立。依托飞桨平台,baidu围绕手艺、生态和家产做大做深,建立了全方位、多层次的深度进修生长格局。
随着规模化 AI 大生产的形成,baidu敏锐观察到 AI 的手艺创新和家产生长正进入一个新的阶段。1 月 10 日,在baidu Create AI 开发者大会上,baidu CTO 王海峰提出「深度进修 +」概念,在 AI 领域的探索迈出全新的一步。类似「互联网 +」,利用信息通信手艺以及互联网平台,让互联网与传统行业进行深度融会。进入「深度进修 +」阶段,业界不仅要注重深度进修手艺的丰富与巩固,还要着眼于整合打通上下游生态以及加强对各行各业的深度赋能。
具体来讲,「深度进修 +」要从三个角度来理解,分别是手艺、生态和家产。手艺角度为深度进修 + 学问,学问巩固的深度进修是 AI 手艺进一步生长的重要方向;生态角度为深度进修 + 上下游生态伙伴,芯片、框架、模型及利用构成深度进修的良性生态;家产角度为深度进修 + 千行百业,利用深度进修手艺变革生产方式,加速家产智能化升级。
可以看到,「深度进修 +」覆盖了从手艺融会、生态建立以及家产联动的方方面面,为实现更全面、更深入的深度进修驱动型 AI 手艺创新和家产生长打好了基础。在会上,baidu CTO 王海峰表示,「深度进修 + 是创新生长新引擎,驱动手艺生长和家产增长,让创新创造大有可为。」
进入「深度进修 +」阶段,AI 行业已经做好了准备
其实,「深度进修 +」阶段并不是一蹴而就的,它的到来有着深厚的历史积淀。
首先,在 AI 领域,自 2012 年以 AlexNet 为代表的开创性研究出现以来,深度进修方法逐渐成为主流,推动 AI 利用进入爆发期。并且,以卷积神经网络、循环神经网络和对抗生成网络为代表的一系列深度进修算法中断在自然语言处理、计算机视觉等关键领域取得巨大进展。
在这期间,AI 的融会创新越来越丰富,跨模态多手艺融会、软硬一体融会以及手艺与场景融会趋势愈加明显。深度进修手艺的研发、调整和落地过程中充分考虑到了大规模丰富学问的加入,如学问图谱、领域学问、行业学问等,学问驱动成为深度进修的重要特征之一。如此一来,我们能够更好、更准确地将深度进修手艺与利用场景融会,达到更好的利用效果。
因此,从整个行业的阶段生长来看,深度进修 + 学问是 AI 手艺进一步生长的重要方向。学问凝炼了人类认识和改造世界的智慧,让机器从海量数据和大规模学问中融会进修,可以使得学问巩固的深度进修效果更好、效率更高、可解释性更强。
其次,生态建设是在手艺融会和落地过程中联动各方的关键步骤,对 AI 尤其深度进修手艺而言亦是如此。过去多年,AI 行业不断围绕深度进修平台拓展开源生态,与硬件厂商合作搞好芯片的适配与优化,加强与各类企业、开发者的联系,覆盖更多行业领域。此外产学研各方携手培养 AI 人才,为深度进修手艺的普及提供坚实的人才支撑。至此深度进修的生态雏形已经形成。
为了建设更持久的生态,深度进修手艺要继续联动上下游生态伙伴,通过芯片、框架、模型和利用构成深度进修的良性生态。
在芯片层,支持深度进修训练、推理的丰富芯片与深度进修框架软硬联合优化,更好的性能和更高的效率提供了强大算力;在框架层,深度进修框架支持便捷开发、高效训练和多端多平台推理部署,提升模型研发效率及效果;在模型层,提供契合家产需求的深度进修模型,通过支持低或零代码的开发套件和工具组件降低利用门槛;在利用层,深度进修手艺与场景融会创新,加速家产智能化升级,催生新业态新模式,实现生产力跃升。
最后,家产赋能是深度进修手艺实现自身价值的最终手段,这点也在其生长进程中得到验证。凭借强大的能力,深度进修手艺已经在自然语言处理、视觉识别、推荐引擎、翻译软件、虚拟助手、机器人、自动驾驶以及更多其他领域实现了利用落地,深层次地改变了人们的生产生活方式。
未来,深度进修手艺要深入到千行百业,实现降本增效,创新产品和业务,加速家产智能化进程,努力实现高质量增长。
可以看到,过去整个 AI 行业一步步地向着「深度进修 +」这一阶段迈进,并通过深度进修平台和大模型手艺加速了这一进程。随着手艺、生态和家产方面的铺垫,AI 手艺创新和家产生长进入新阶段变得水到渠成。
内部中断积累沉淀,baidu为「深度进修 +」蓄势已久
对于baidu而言,「深度进修 +」早已在内部生根发芽、茁壮成长。baidu当前的深度进修布局催生了这一概念,尤其是飞桨以及依托飞桨打造的文心家产级学问巩固大模型,它们为baidu推动 AI 手艺创新和家产生长的新阶段提供了信心和底气。
用学问进修巩固大模型能力、拓展大模型落地
在baidu,飞桨深度进修平台 + 文心大模型已经成为核心生长模式,并以此构筑了家产智能化基座。此次手艺角度的 “深度进修 + 学问” 在文心大模型的一系列生长中得到实践验证,并收到了显著的成效。2019 年开始,baidu深耕预训练模型研发,先后发布学问巩固文心(ERNIE)系列模型。文心系列模型基于中断进修的语义理解框架,从大规模学问和海量数据中融会进修,效率更高,效果更好。2021 年 12 月,ERNIE 3.0 升级为全球首个学问巩固千亿大模型鹏城 – baidu・文心,同时,家产级学问巩固大模型文心全景图亮相。文心大模型在历次升级中中断加强学问巩固,使之成为与家产级并列的两大核心特色之一。
文心大模型全景图。
我们以文心 ERNIE 为例,其框架不断从不同数据和学问中进修并建立新任务。通过从不同任务中中断进修,大模型能力中断提升,拥有更多学问。ERNIE3.0 首次在百亿级预训练模型中引入大规模学问图谱,从大规模学问图谱和海量无结构数据中进修,使大模型具备更强的学问记忆和推理能力。相较于没有学问巩固的大模型,文心大模型的进修效率更高,在实体问答、学问预测、可控文本生成等多个场景上具有更好的效果。
文心 ERNIE 能够准确地完成学问问答任务。
学问巩固使得包括文心 ERNIE 在内的文心大模型具备跨模态、跨语言的深度语义理解与生成能力。此外,在baidu文心大模型体系中,行业大模型是非常重要的特色,成为推动大模型家产化落地和促进行业智能化升级的重要手段。通过行业学问巩固,文心行业大模型充分挖掘和建模特定行业场景中的大量行业数据和学问,同时引入行业实际业务积累的特有学问,巩固对行业利用的适配性,取得很好的效果。
baidu文心行业大模型。
围绕飞桨平台凝聚各方智慧、建立良性生态
baidu飞桨生态建设经过多年的生长,已经形成向下、向上两条路径,构筑了全面的生态生长格局,实现了芯片、框架、模型和利用层面的高效衔接与互通。
飞桨全景图。
深度进修平台向下,飞桨与广大硬件生态伙伴合作,通过手艺共研开拓更多软硬件协同产品和功能,形成合作共赢的生态。目前已有超过 30 家硬件厂商与飞桨深度融会优化,国内外主流芯片基本都已适配飞桨。飞桨在 2022 年携手硬件合作伙伴开启硬件生态共创计划,并联合 12 家硬件伙伴推出飞桨生态发行版。
向上,飞桨着力广泛的利用生态。一是企业生态,通过 AI 快车道等多种方式让前沿手艺深入业务场景,有针对性地为中小和大型企业生态伙伴提供多样化手艺能力和服务。二是教育生态,联合高校建立产教融会的 AI 人才培养体系。三是开源生态,与业界优秀的开源社区和开源项目合作,联合开发者和开源社区共建深度进修开源生态。
深度进修平台 + 大模型构筑家产智能化基座
一直以来,baidu都高度重视家产赋能,并在飞桨深度进修平台和文心大模型的生长中践行着这一点。
一方面,飞桨始终坚定平台的家产级特性,贴近家产实践。通过飞桨平台,企业可以快速便捷地开发适合自身业务场景的优化算法,在实践中更早地部署 AI 能力。另一方面,文心大模型尤其行业大模型寻求与企业场景需求的契合,加速 AI 落地。不断壮大的文心行业大模型中断扩大覆盖行业的范围,在家产化落地过程中使大模型真正赋能千行百业。
我们以 “深度进修 + 交通” 融会创新的智能利用 —— 智能交通中的「智能调度系统」为例,通过图神经网络与强化进修手艺,实现整个区域交通流量的全局调控,最大限度减少各方向绿灯的空放,减缓道路拥堵,节省出行时间。这套系统已在北京亦庄、长沙、保定等地上线。
路口信号灯配时智能优化。图源:Apollo 智能驾驶
「深度进修 +」未来可期,各方要百尺竿头更进一步
毋庸置疑,在「深度进修 +」这个 AI 手艺创新和家产生长的全新阶段,各方都迎来了一个良好的契机,能否把握住变得尤为重要。
对于baidu而言,其中断深化的飞桨深度进修平台以及日益完善的文心大模型体系贯通了从硬件适配、模型训练、推理部署到场景利用的全家产链,成为「深度进修 +」驱动手艺创新和赋能家产生长的引擎。未来要继续释放飞桨平台和文心大模型的引擎力,更快更好更广地开拓深度进修手艺,并力求更大范围的利用落地。
对于家产合作伙伴而言,接入并利用深度进修平台和大模型手艺,结合自身具体业务需求,能够不断提升业务智能化水平,实现业务效率提升和高效增长。
对于整个 AI 行业而言,应更加重视深度进修的手艺红利,充分发挥潜力,实现新的 AI 手艺突破,拓宽利用广度和深度,完成其变革社会生产生活方式的历史使命。
从更宏大的视角来讲,「深度进修 +」对于我国现代化家产体系也将产生助益。我国品类齐全、体量庞大的家产体系将为深度进修驱动的创新提供丰富的利用场景,有助于形成良性循环,促进底层手艺突破,进一步升级我国现代化家产体系,全面推动经济社会进入智能时代。
总之,「深度进修 +」未来可期,各方要百尺竿头更进一步。baidu显然已经为此做好了准备,继续发挥领头雁的表率作用,引领 AI 未来生长。
参考内容:
https://www.geekpark.net/news/302263
https://ai.baidu.com/support/news?action=detail&id=2897