调查:AMD AI 芯片 Instinct MI300X 吸引大量用户弃用英伟达

根据最近的一项调查,大量人工智能专业人士正计划从英伟达转向采纳 AMD Instinct MI300X GPU。TensorWave 联合创始人 Jeff Tatarchuk 透露,他们进行了一项独立调查,涵盖 82 名工程师和人工智能专业人士。其中,约有 50% 的受访者表示他们对 AMD Instinct MI300X GPU 充满信心,因为比拟于英伟达的 H100 系列产品,MI300X 不仅具有更出色的性价比,而且供应充足,避免了遇到货源紧张的问题。Jeff 还提到,TensorWave 公司也将采纳 MI

根据最近的一项调查,大量人工智能专业人士正计划从英伟达转向采纳 AMD Instinct MI300X GPU。

调查:AMD AI 芯片 Instinct MI300X 吸引大量用户弃用英伟达

TensorWave 联合创始人 Jeff Tatarchuk 透露,他们进行了一项独立调查,涵盖 82 名工程师和人工智能专业人士。其中,约有 50% 的受访者表示他们对 AMD Instinct MI300X GPU 充满信心,因为比拟于英伟达的 H100 系列产品,MI300X 不仅具有更出色的性价比,而且供应充足,避免了遇到货源紧张的问题。Jeff 还提到,TensorWave 公司也将采纳 MI300X 人工智能加速器。这对于 AMD 来说无疑是个好消息,因为以往其 Instinct 系列产品比拟英伟达的竞品,市场占有率一直处于劣势。

调查:AMD AI 芯片 Instinct MI300X 吸引大量用户弃用英伟达

据IT之家了解,AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造,采纳混合的 5nm 和 6nm 制程工艺,具有多达 1530 亿晶体管 (MI300X 型号)。存储方面也获得了巨大提升,MI300X 的 HBM3 容量比上一代的 MI250X (128 GB) 超过跨过 50%。

与英伟达 H100 比拟,MI300X 具有以下优势:

内存容量超过跨过 2.4 倍

内存带宽超过跨过 1.6 倍

FP8 功能 (TFLOPS) 超过跨过 1.3 倍

FP16 功能 (TFLOPS) 超过跨过 1.3 倍

在 1v1 对照尝试中,功能方面可当先 H100 (Llama 2 70B) 最多 20%

在 1v1 对照尝试中,功能方面可当先 H100 (FlashAttention 2) 最多 20%

在 8v8 服务器对照尝试中,功能方面可当先 H100 (Llama 2 70B) 最多 40%

在 8v8 服务器对照尝试中,功能方面可当先 H100 (Bloom 176B) 最多 60%

AMD 的旗舰 Instinct 人工智能加速器 MI300X 不仅在功能上取得了巨大飞跃,而且上市时机也非常巧妙,因为英伟达目前正被积压的订单困扰,这限制了他们拓展新客户的机会。虽然此前 AMD 在人工智能领域的表现并不尽如人意,但未来似乎一片光明,有望在激烈的竞争中占据一席之地。

给TA打赏
共{{data.count}}人
人已打赏
AI

baidu李彦宏:“程序员”工作将不复存在,现在编程语言只会剩下英文和华文

2024-3-10 15:58:23

AI

OpenAI 视频生成效劳 Sora 引发隐衷担忧,意大利数据禁锢机构展开观察

2024-3-10 17:42:41

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索