手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

高通骁龙 8 Gen3 的出现,让生成式 AI 在智能终端无处不在了。安卓旗舰手机的芯片,今天迎来了换新。一年一度的高通骁龙峰会在 10 月 24 日拉开序幕,今年举办地点来到了夏威夷毛伊岛。会上,高通宣布推出最新一代旗舰移动平台骁龙 8 Gen3,并表示其在终端侧 AI 能力、机能和能效等多个方面都有显著提拔。简单总结一波,骁龙 8 Gen3 采用台积电 4nm 制程工艺打造(可能是 N4P)。CPU 采用全新 1 5 2 架构,包括 1 个 X4 超大核、3 个 A720 大核 3.15GHz、2 个 A720

高通骁龙 8 Gen3 的出现,让生成式 AI 在智能终端无处不在了。

安卓旗舰手机的芯片,今天迎来了换新。

一年一度的高通骁龙峰会在 10 月 24 日拉开序幕,今年举办地点来到了夏威夷毛伊岛。

会上,高通宣布推出最新一代旗舰移动平台骁龙 8 Gen3,并表示其在终端侧 AI 能力、机能和能效等多个方面都有显著提拔。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

简单总结一波,骁龙 8 Gen3 采用台积电 4nm 制程工艺打造(可能是 N4P)。CPU 采用全新 1+5+2 架构,包括 1 个 X4 超大核、3 个 A720 大核 3.15GHz、2 个 A720 大核 2.96GHz 以及 2 个 A520 小核 2.27GHz。相较于骁龙 8 Gen2,CPU 整体机能提拔 30%,能效提拔 20%。整体 SoC 节能 10%。

高通表示,新一代的 Adreno 750 GPU 相比上代有 25% 的机能提拔和 25% 的能效提拔,通过图像运动引擎 2.0 (Adreno Frame Motion Engine 2.0) 帧生成算法,支撑了 240FPS 高帧率,有望将大众游玩的流畅效果提拔到新高度。

由于上一代 8 Gen2 已经 shixian 了 GPU 机能超越同时代苹果 A 系列芯片的巨大成功,所以本次看来较小的提拔仍然比较可观。

但需要注意的是,这首先需要手机屏幕将刷新率提高到 240Hz,考虑到能耗,估计只有游玩手机才会提供此类硬件。

面向更广泛的手机用户,高通在 8Gen3 上提供了原生 1Hz 刷新率的支撑,有助于静态显示时的省电。

在图像技术方面,8Gen3 宣布支撑虚幻 5 引擎的 Lumen 光照系统,带来了类似硬件光线追踪技术的视觉效果,而且处理速度更快(但仅限虚幻 5 引擎)。结合此前已支撑的硬件光线追踪技术,第三代骁龙 8 为下一代手机游玩做好了准备,之后就是游玩厂商的事了。

此次,骁龙 8Gen3 的亮点在于强大的终端侧 AI 及生成式 AI 机能。

NPU 方面,AI 算力超过 73TOPS,能效还降低了 40%。高通表示,此次 8Gen3 的 AI 机能提拔了 98%,高通 AI 引擎实现了终端设备上世界首次支撑运行 100 亿参数的模型,并且针对 70 亿参数 LLM 每秒能够生成 20 个 token。这意味着,各类虚拟助手、GPT 聊天机器人、Stable Diffusion 等 LLM 等都可以在手机等终端正常运行。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

另外针对音频、动作传感器这种需要长时间待机的 AI 使用场景,8Gen3 专门提供了 2 个低功耗的 NPU 单元。8Gen3 还在内存和 NPU 之间建立了直连通道,进一步提高运算效率。

可以说,对于搭载骁龙 8 Gen3 的智能手机,它们的内容创作、影像、游玩、音频和连接体验因 AI 能力得到了极大的增强,比如手机端支撑图像 AI 填充扩展。不知道手机硬件能力到位以后,会不会出现生成式 AI 的爆款应用?

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

通信方面,8Gen3 集成了 Snapdragon X75 5G 调制解调器,支撑 5G 毫米波、LPDDR5X RAM、UFS 4.0、Wi-Fi 7、蓝牙 5.4。最高支撑 4k 60Hz 或 144Hz Quad HD+ 屏幕显示。影像方面最高支撑 200MP 照片拍摄、120fps 4K 视频拍摄。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

有关高通旗舰的首发机型悬念依然不大。高通的发布会上,小米集团合伙人卢伟冰提前拿出了用上骁龙 8 Gen3 的小米 14,明天晚上就是小米的发布会了,雷军也在微博上表示小米 14 将全球首发第三代骁龙 8 移动平台。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

此外一加 12、iQOO 12 系列、中兴 x 努比亚将首批搭载骁龙 8 Gen3, OPPO Find X7 系列、真我 GT5 Pro 也在前期搭载的行列中。

除了移动平台的骁龙 8 Gen3,高通推出了专为生成式 AI 打造的全新 PC 平台骁龙 X Elite。据介绍,骁龙 X Elite 在众多支撑 Windows 11 的 PC 平台中具备了一流的 CPU 机能和能耗。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

还是先来简单看下它的规格。CPU 方面采用自研的 Oryon 架构 ,4nm 工艺,12 大核,最高频率 3.8、支撑双核睿频至 4.3 GHz、内存带宽支撑 LPDD5x 8533、缓存总数 42 MB。此外支撑了 WiFi7、蓝牙 5.4、X65 基带、PCIe 4.0 NVMe、M.2 Wi-Fi 扩展等。现场与基于 ARM 内核的 M2 比较,多核 CPU 机能提拔 50%。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

GPU 采用 Qualcomm Adreno,算力为 4.6 TFLOPS。ISO 功率下比竞品机能提拔高达 80%,功耗降低 80%。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

NPU 方面,AI 算力达到了 45TOPS。自 2017 年以来,AI 机能提拔了 100 倍,远超竞品 PC 平台。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

骁龙 X Elite 号称专为 AI 打造,能够以 30token 每秒的速度运行 Meta 著名的大语言模型 Llama 2。此外进一步支撑在终端侧运行超过 130 亿参数的生成式 AI 模型,实现了比竞品快 4.5 倍的 AI 处理速度。

高通表示,OEM 厂商预计将于 2024 年中推出搭载骁龙 X Elite 的 PC。更多细节详见下图。

手机能跑百亿参数大模型,骁龙8Gen3来了,自研PC架构上线

今年的骁龙旗舰芯片,相比往年又更加提前了一些,但面对 4 大核的联发科天玑 9300,制程工艺不变的 8 Gen3 能否保持住旗舰芯片的领先位置?它会是新的 888,还是新的 8 Gen2 呢?

我们很快就会知道了。

参考链接:

https://www.theverge.com/2023/10/24/23928867/qualcomm-snapdragon-8-gen-3-on-device-ai-meta-llama-2

给TA打赏
共{{data.count}}人
人已打赏
应用

低成本快速入局大模型,你需要学下向量数据库

2023-10-25 14:59:00

应用

LeCun又双叒唱衰自返回LLM:GPT-4的推理才能非常有限,有两篇论文为证

2023-10-25 15:14:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索