英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。

英伟达今日正式发布 Dynamo,号称是“AI 工厂的操作系统”。

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 Token 数,Y 轴显示工厂每秒的 Token 数。

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

在 Dynamo、Grace Blackwell NVLink72 超级芯片的加持下,Blackwell 相比 Hopper 可实现 25 倍的性能提升

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

而在推理模型中,Blackwell 的性能是 Hopper 的 40 倍

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

AI在线注意到,黄仁勋还打趣道,有了上述最新技术加持,搭建 AI 工厂的厂商“买得越多、省得越多”,总而言之就是掏钱吧。

英伟达 Dynamo 发布:号称“AI 工厂的操作系统”,Blackwell 买得越多、省得越多

英伟达 GTC 2025 大会专题

相关资讯

Nvidia GTC2025:人工智能与加速计算的全球盛会即将启幕

Nvidia 今日宣布,其全球顶级人工智能会议 GTC2025将于3月17日至3月21日在加利福尼亚州圣何塞盛大举行。 此次会议预计将吸引25,000名现场参会者以及300,000名线上观众,共同见证人工智能与加速计算技术的最新突破。 黄仁勋主题演讲备受瞩目Nvidia首席执行官黄仁勋(Jensen Huang)的主题演讲无疑是本次大会的重头戏。

生成式 AI 已过时:英伟达黄仁勋首提 Agentic AI,后续是机器人 Physical AI

现在我们处于生成式 AI(Generative AI)阶段,但根据黄仁勋的路线图,我们将迈向一个代理式 AI(Agentic AI)时代,随后是物理 AI(Physical AI)—— 机器人登场的时候。

英伟达 Grace Blackwell 解决方案已全面投产,黄仁勋展示各厂商数据中心机架

黄仁勋展示了使用 Grace Blackwell 的各厂商数据中心机架,可以看到包括联想、戴尔、微软、亚马逊 AWS、Meta、谷歌等。