用GAI定义手机,联发科和朋友们在行动

天玑旗舰芯片,正在引领 AI 手机新时代。最近一段时间,端侧生成式 AI 上游的「军备竞赛」异常激烈。上个星期,联发科技(MediaTek)举行了首届天玑开发者大会 2024( MDDC 2024 ),正式发布最新一代芯片与 AI 工具。苹果为新一代 iPad Pro 首次搭载了 M4 芯片,AI 算力相较第一代提高了 60 倍。本周一,vivo 发布的旗舰手机 vivo X100S 系列搭载天玑 9300 ,再次刷新了 AI 手机性能的上限。距离 vivo X100 的发布仅过去半年,在这次的升级版上,vivo

天玑旗舰芯片,正在引领 AI 手机新时代。

最近一段时间,端侧生成式 AI 上游的「军备竞赛」异常激烈。

上个星期,联发科技(MediaTek)举行了首届天玑开发者大会 2024( MDDC 2024 ),正式发布最新一代芯片与 AI 工具。苹果为新一代 iPad Pro 首次搭载了 M4 芯片,AI 算力相较第一代提高了 60 倍。

本周一,vivo 发布的旗舰手机 vivo X100S 系列搭载天玑 9300+,再次刷新了 AI 手机性能的上限。

距离 vivo X100 的发布仅过去半年,在这次的升级版上,vivo 带来了 AI 视效,蓝心 AI 也接入了 QQ、钉钉、飞书等聊天会议软件,实现了跨 App 的智能录音识别等威力,展示了端侧生成式 AI 威力的无限可能性。

用GAI定义手机,联发科和朋友们在行动

                                                         一键换季节:vivo X100S 上首发了 AIGC 和影像威力结合的「四季人像」功能。

一系列生成式 AI 威力的背后,联发科从芯片到软件上的全面布局引发了人们的关注。

在 MDDC 大会上,联发科公布的一系列新手艺和产品利用,为生成式 AI 手艺落地供给了方向。 

提前布局,建立先进端侧 AI 算力

端侧部署生成式 AI,意味着无需连接云端,直接在移动设备上进行大模型的 AI 推理,有低延迟、高灵活度等优势,同时保护了用户的隐私数据。

如今,端侧生成式 AI 的落地已成为全球科技公司竞争的重点。在过去一年时间里,国内外大部分手机厂商都在推动生成式 AI 模型的端侧落地,希望能为智能手机带来革命性的 AI 体会,甚至形态的转变。在 AI 创业公司一侧,也不断有面向端侧优化的大模型出现,一些最新的轻量级模型已拥有了多模态威力。

但归根结底,为了实现端侧 AI 利用落地,首先需要强大的 AI 算力。这就离不开联发科强大的芯片实力。

天玑 9300+ 是联发科重磅发布的最新旗舰 5G 生成式 AI 移动平台,其采用 4nm 工艺打造,八核 CPU 包含 4 个 Cortex-X4 超大核,最高频率可达 3.4 GHz,是安卓阵营中性能表现最强的手机芯片。

在新一代 SoC 上,联发科着重提高端侧 AI 威力:天玑 9300 + 内置第七代 AI 引擎 APU 790,率先支持 AI 推测解码加速手艺,生成速度可提高 120%。同时支持天玑 AI LoRA Fusion 2.0 手艺,生成效率提高 100%,内存空间节省 50%。天玑 9300 + 还支持 AI 框架 ExecuTorch,可加速端侧生成式 AI 利用的开发进程。

用GAI定义手机,联发科和朋友们在行动

这款旗舰芯支持多种业内主流的先进 AI 大模型,包括阿里云通义千问大模型、百川大模型、文心大模型、谷歌 Gemini Nano、零一万物终端大模型、Meta Llama 2、Llama 3 等。

联发科表示,搭载天玑 9300+ 的工程机已在端侧跑通了 Llama 2 7B,推理速度达到 22 token/s

用GAI定义手机,联发科和朋友们在行动

走概念领先的全大核路线,具备多项业界领先的生成式 AI 手艺,承载共同合作实现的优质游戏体会,这些特性聚集在一起,让天玑 9300 系列成为了驱动当下 AI 手机的最强芯片。

自天玑 9000 发布以来,联发科旗舰芯片的 AI 威力就十分亮眼,屡屡占据 AI BenchMark 榜单的头名位置。冲击高端的联发科在 AI 领域持续发力,已逐渐获得了用户的认可。其实,联发科的目标一直是面向 AI 大幅投入,做最具前瞻性的那一个。

「在手机上,即使运行 7B、13B 的大模型也是很大的挑战,」联发科无线通信事业部手艺规划总监李俊男说道。「我们必须提高芯片算力,并通过建立 Neuron Studio 等工具来完成大模型的量化、压缩,做出最佳化和最小的网络结构。」

生成式 AI 与智能手机的融合既是产业各方的需要,也是手艺发展的必由之路。其生态包含括芯片厂商、手机厂商、大模型厂商、开发者等多方,尚未形成相对统一的范式。对于引领方向联发科来说,生成式 AI 手机已发展成为端侧生成式 AI 的第一突破口。

建立工具链,覆盖生成式 AI 全流程

生成式 AI 利用尚处于起步期,手机端侧被认为是最佳的落地方向,但我们还面临着一系列挑战:端侧芯片的算力和功耗较低,大模型会占用大量内存。为了针对手机进行优化,开发者必须花费大量时间精力将云端大模型适配端侧,而端侧又存在大量不同手机厂商的系统差异。

为应对挑战,联发科供给了完整的开发工具链。

上周的 MDDC 中,联发科联合阿里云、百川智能等生态同伴启动了「天玑 AI 先锋计划」,通过整合自身与产业生态同伴的资源,为开发者供给开发威力、手艺支持和商业机会。同时发布了「天玑 AI 开发套件」,为全球开发者供给终端生成式 AI 利用开发的一站式解决方案。

天玑 AI 开发套件包含四大核心模块,分别是:快速高效的 GenAI 最佳实践、覆盖全球主流大模型的 GenAI Model Hub、高效提高性能的 GenAI 优化手艺和 Neuron Studio 一站式视觉化开发环境。联发科表示,四大模块能为开发者供给「快、全、强、易」的专业开发体会,覆盖终端生成式 AI 利用开发的全流程。

用GAI定义手机,联发科和朋友们在行动

其中,GenAI 最佳实践通过模型量化、模型编译和模型推理手艺加速了大模型的终端部署,让开发的时间从数周加速到只需一天。同时,GenAI Model Hub 适配了行业前沿主流的大模型,为开发者高效建立生成式 AI 利用供给丰富的大模型资源。在建立生态上,联发科站在移动生态的角度,始终保持完全开放的态度,为端侧用户带来更加完善和先进的体会。

天玑 AI 开发套件还支持 AI 推测解码加速手艺、LoRA Fusion 等先进的 GenAI 优化手艺;而 Neuron Studio 集成开发环境可供给一站式可视化的开发环境,跳出传统的代码开发环境,带来「所见即所得」的开发体会。

用GAI定义手机,联发科和朋友们在行动

从功能机到智能机,回头看去,手机形态迭代的成功,往往是更有效、更易用的新方法解决了消费者的老问题,随后再随着手艺的进步不断优化。在 AI 手机上,新体会很大程度上也应该是对已有威力的整合。联发科技董事、总经理暨营运长陈冠州表示,在建立端侧 AI 利用的道路上,最好的方式应该是将现在的智能生态转化成生成式 AI,而不是从零开始建立。

联发科判断,生成式 AI 手机将在三个方面率先实现落地 —— 新的交互体会、智能出行体会,以及智能化的游戏体会。

拥抱生态同伴,携手推进端侧 AI 落地开花

生成式 AI 时代,供给算力支持的芯片成为人们关注的焦点。在与 AI 大模型公司对接之后,终端厂商还是需要与芯片厂商合作,从底层进行优化,最终才能实现利用的落地。

联发科的开放态度和在端侧 AI 生态的一系列布局,大大加快了这一进程。

与竞争对手相比,联发科在做好芯片算力提高的同时,更加尊重与关注了开发者的需求,并致力于建立创新的用户体会。

「我们发现,生态同伴会使用我们从未想过的方式利用平台威力。如今的很多手艺都是通过长期的合作与讨论建立起来的,」联发科技无线通信事业部副总经理陈一强表示。「我们的很多工作就是『多走了一步』,直接面向全体开发者,让手机厂商和开发者可以更好地利用芯片的威力。」

联发科建立的生态为从大模型公司到手机厂商,再到开发者的广泛群体带来了清晰、高效的工具和明确的路径。让大模型的落地更加容易,同时还能获得来自硬件底层的优化。

在 MDDC2024 大会上,联发科还携手数十家生态同伴,共同建立了生成式 AI 利用生态。

用GAI定义手机,联发科和朋友们在行动

随着大模型手艺的不断发展,以及芯片算力的提高,生成式 AI 手艺正在延伸到更为广阔的领域。联发科还在围绕端侧多模态生成式 AI、专家系统等方向进行探索。

从创造产品到定义标准,联发科将引领端侧 AI 生态

从积极供给高端芯片,到率先引领端侧生成式 AI 生态,第一届天玑开发者大会 2024(MDDC 2024)是联发科的一个重要转折点。

在开发者大会上,联发科与众多手机厂商、科技大厂和 AI 公司联合发布了《生成式 AI 手机产业白皮书》,对 生成式 AI 手机进行了定义。白皮书提出生成式 AI 手机需要具备如下必要特征: 

支持大模型的本地部署,或是通过云端协同的方式执行复杂的生成式 AI 任务;

具备多模态威力,即可以处理文本、图像、语音等多种形式的内容输入,以生成各种形式的输出;

确保流畅、无缝的用户体会,设备能够以自然而直观的交互方式,快速响利用户的请求;

拥有实现上述特征的硬件规格。

受益于强大的移动计算平台,不断进步的模型手艺,以及配套工具链的推动,生成式 AI 手机将在未来几年保持高速成长。分析机构 Counterpoint 预测,生成式 AI 手机的存量规模将在 2027 年突破 10 亿大关。联发科董事、总经理暨营运长陈冠州则表示,随着 2024 年生成式 AI 即将在消费级市场普及,到 2027 年全球智能手机端侧整体 AI 算力会达到 50000 EOPS。

而在其中,联发科的贡献势必越来越大 —— 最近的分析报告显示,联发科在 2023 年第四季度表现强劲,智能手机利用处理器(AP)以 36% 的出货量市场份额位列全球第一,已经连续多个季度处于领先位置。

毫无疑问,随着用户基数的不断增长,在生成式 AI 大规模落地的过程中,联发科将占据越来越重要的地位。AI 生态将成为人们社交、工作、娱乐和出行的载体。新类型的利用,会逐渐改变我们的生活,变得不可或缺。

端侧的生成式 AI,即将为我们带来颠覆性的体会。

给TA打赏
共{{data.count}}人
人已打赏
应用

18个月,OpenAI这支团队搞出了GPT-4o

2024-5-16 15:01:00

应用

拿纱布、抓针头,英伟达与多所高校合作,开发手术机器人

2024-5-16 17:19:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索