英伟达最新AI超级算力Blackwell GPU平台即将登陆亚马逊云科技

今天凌晨,英伟达在 GTC 大会上推出了最新一代 GPU 架构 Blackwell 及整套零碎。在 Keynote 上,黄仁勋表示,已有多家科技公司和传统企业正在引入新一代产品。在发布活动后,亚马逊云科技宣布将供给基于英伟达 Grace Blackwell GPU 的 Amazon EC2 实例和 英伟达 DGX Cloud,以提高在数万亿参数 LLM 上建立和运行推理的功能。亚马逊云科技表示,英伟达的超强算力芯片零碎与亚马逊云科技强大的 Elastic Fabric Adapte (EFA) 收集连接能力、高级虚

今天凌晨,英伟达在 GTC 大会上推出了最新一代 GPU 架构 Blackwell 及整套零碎。在 Keynote 上,黄仁勋表示,已有多家科技公司和传统企业正在引入新一代产品。

英伟达最新AI超级算力Blackwell GPU平台即将登陆亚马逊云科技

在发布活动后,亚马逊云科技宣布将供给基于英伟达 Grace Blackwell GPU 的 Amazon EC2 实例和 英伟达 DGX Cloud,以提高在数万亿参数 LLM 上建立和运行推理的功能。

亚马逊云科技表示,英伟达的超强算力芯片零碎与亚马逊云科技强大的 Elastic Fabric Adapte (EFA) 收集连接能力、高级虚拟化 ( Amazon Nitro System ) 和超大规模集群 ( Amazon EC2 UltraClusters ) 等领先技术的结合,使得该平台在加速资源密集型、数万亿参数语言模型的推理工作负载方面实现了巨大飞跃。

在安全性方面,亚马逊云科技的 Nitro 零碎、Amazon KMS、EFA 加密 和 Blackwell 加密的集成将为客户供给对其训练数据和模型权重的端到端控制,从而为客户在亚马逊云科技上的生成式 AI 应用程序供给更强的安全性。

Blackwell 也加入了双方合作的 Project Ceiba 项目,该项目专为 NVIDIA 自身的 AI 研发工作设计,是一台亚马逊云科技上托管的采用 DGX Cloud 的 AI 超级计算机,它搭载了 20,736 颗 GB200 Superchips 芯片,并通过第四代 EFA 收集扩展,为每个 Superchip 供给高达 800 Gbps 的低延迟、高带宽收集吞吐量,能够供给 414 exaflops 的计算能力,与之前计划在 Hopper 架构上建立 Ceiba 相比,功能提升了 6 倍。

给TA打赏
共{{data.count}}人
人已打赏
应用

英伟达 GTC 大会不仅有 AI 芯片,还有 AI for Science

2024-3-19 15:14:00

应用

光荣发布Magic6至臻、AIPC笔记本:崭新AI战略引领行业创新

2024-3-19 16:28:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索