富国银行(Wells Fargo)预测今年 AI 用电需求为 8 TWh,而到 2030 年将激增到 652 TWh,将增长 8050%。
富国银行表示 AI 用电主要用于训练 AI 模型方面,在 2026 年将达到 40 TWh,到 2030 年将达到 402 TWh;此外 AI 推理耗电量将会在 21 世纪 20 年代末出现快速增长。
如果单纯看这个数字可能没有直观的感觉,那么这里再附上一组数据:2023 年中国全年用电为 9224.1 TWh,上海市全年用电为 184.9 TWh,深圳市全年用电为 112.8 TWh。
AI 行业正面临严重的用电荒挑战。AI在线以英伟达的 H100 AI GPU 为例,采用 SXM 外形的 H100 单机功耗就高达 700W,而英伟达的下一代 B200 AI GPU 更加恐怖,每片功耗将达到 1200W。
AMD 方面同样如此,上一代 Instinct MI250 AI 加速器的峰值功耗为 560 瓦,而该公司新推出的 MI300X AI 加速器的峰值功耗为 750 瓦,比上一代增加了 50%。
英特尔也不甘落后,其新款 Gaudi 2 AI 加速器的峰值功耗为 600W,新款 Gaudi 3 AI 加速器的峰值功耗为 900W(又增加了 50%)。
英特尔下一代 Falcon Shore 混合 AI 处理器的功耗更高,刷新业内最高纪录,每个芯片的峰值功耗达到了惊人的 1500W。
这还只是单独计算 GPU 部分,如果再加上 CPU 以及其它附加组件,其耗电量更加惊人,以英伟达 GB200(2 个 B200 GPU 和 1 个 Grace CPU)为例,功耗达到惊人的 2700W。