TrendForce:2024 年 AI SSD 采购容量预计突破 45EB,合约价一年涨超 80%

TrendForce 集邦咨询今日发布报告,由于 AI 需求大幅升温,最近两季 AI 服务器相关客户向供应商进一步要求加单 Enterprise SSD(企业级固态硬盘)。上游供应商为了满足 SSD 在 AI 应用上的供给,加速制程升级,开始规划推出 2YY 产品,预期于 2025 年量产。报告显示,AI 服务器客户对供应商加单的情况,导致 Enterprise SSD 合约价于 2023 年第四季至 2024 年第三季间的累积涨幅超过 80%。SSD 在 AI 发展中扮演重要角色,除了在 AI 模型训练过程中,S

TrendForce 集邦咨询今日发布报告,由于 AI 需求大幅升温,最近两季 AI 服务器相关客户向供应商进一步要求加单 Enterprise SSD(企业级固态硬盘)。上游供应商为了满足 SSD 在 AI 应用上的供给,加速制程升级,开始规划推出 2YY 产品,预期于 2025 年量产

报告显示,AI 服务器客户对供应商加单的情况,导致 Enterprise SSD 合约价于 2023 年第四季至 2024 年第三季间的累积涨幅超过 80%。SSD 在 AI 发展中扮演重要角色,除了在 AI 模型训练过程中,SSD 不仅负责储存模型参数,包含不断更新的权重和偏差,另一项重要应用是创建检查点 (check point),以定期保存 AI 模型训练进度,即使训练中断也能从特定点恢复。上述功能都相当依赖高速传输以及写入耐用度,因此客户主要选择使用 4TB / 8TB TLC(三层单元闪存) SSD 产品,以满足严苛的训练过程需求。

报告指出,随着更多生成信息是以影片或相片显示,其数据存储量也相应增加,因此,TLC / QLC(四层单元闪存) 16TB 以上等大容量 SSD 便成为 AI 推理主要采用的产品

TrendForce:2024 年 AI SSD 采购容量预计突破 45EB,合约价一年涨超 80%

2024 年 AI 服务器 SSD 市场除了 16TB 以上产品需求自第二季大幅上升,随着 NVIDIA H100、H20 和 H200 等系列产品到货,相关客户进一步加大 TLC 4、8TB Enterprise SSD 订单需求。根据 TrendForce 集邦咨询预估,今年 AI 相关 SSD 采购容量将超过 45EB(AI在线注:1EB=1024PB≈104.8 万 TB),未来几年,AI 服务器有望推动 SSD 需求年增率平均超过 60%,而 AI SSD 需求在整个 NAND Flash(闪存)的占比有机会自 2024 年的 5%,上升至 2025 年的 9%。

图片

在供给市场方面,由于推理服务器采用大容量 SSD 产品的趋势不变,供应商已开始加速升级制程,计划从 2025 年第一季起,量产 2YY / 3XX 层制程的产品,并推出 120TB 的 Enterprise SSD 产品

相关资讯

消息称苹果首席运营官威廉姆斯访问台积电,探讨 AI 芯片开发

台媒《经济日报》消息,苹果公司首席运营官杰夫・威廉姆斯(Jeff Williams)低调拜访台积电,台积电总裁魏哲家亲自接待。双方主要讨论了苹果自研 AI 芯片的开发,以及台积电使用先进制程技术生产芯片等事宜。苹果需要更多半导体先进技术支持,此前苹果已包下台积电 3 纳米首批产能,若后续预定 2 纳米乃至更先进制程的首批产能,台积电营收将继续增加,今年有机会创新高,预计可达 6000 亿元新台币(IT之家备注:当前约 1350 亿元人民币)。苹果首席财务官卢卡・梅斯特里(Luca Maestri)在财报会议上表示,

Claude 企业计划上线:上下文窗口 50 万词元、原生集成 GitHub,强调不拿数据训练 AI

AI 公司 Anthropic 昨日(9 月 4 日)发布新闻稿,宣布推出 Claude Enterprise 计划,主要面向企业让 AI 模型更好配合内部知识库,实现更个性化、更丰富的体验。Claude Enterprise 计划上下文窗口达到 50 万个词元(tokens),原生集成 GitHub,并调高了使用限制,可以让 Claude 更好地处理完整代码库。Anthropic 声称,用户可以为 Claude 提供相当于数百份销售日志、数十份 100 多页文档或中等规模代码库的知识。AI在线注:不过,企业不应过

OpenAI 举办推介会,阿尔特曼承诺不用 API 收集的数据训练未来 ChatGPT 版本

感谢OpenAI 近期举办了系列推介会,首席执行官山姆・阿尔特曼(Sam Altman)在旧金山、纽约和伦敦演讲,向出席的多家“财富 500 强”企业的高管承诺,OpenAI 不会使用 API 收集的客户数据来训练大语言模型(LLMs)。这些活动面向金融、医疗保健和能源等各行各业的高层决策者。阿尔特曼带队,此外还有首席运营官 Brad Lightcap 在内多位 OpenAI 高管出席,介绍了包括 ChatGPT Enterprise、文本转视频模型在内的诸多产品。阿尔特曼向与会者承诺,通过 ChatGPT Ent