硬盘

TrendForece:AI 推理带动今年企业级 QLC 固态硬盘出货容量增长四倍

TrendForece 集邦咨询今日发布研报,表示今年企业级 QLC 固态硬盘的出货位元将因 AI 推理服务器需求增长四倍,达 30EB(IT之家注:约 3146 万 TB)。研报表示,AI 推理服务器对存储介质以读取为主,写入不如 AI 训练服务器频繁。企业级的 QLC 固态虽然写入耐久不如 TLC 盘,但在读取方面并不逊色,同时也拥有成本优势。而对比企业级机械硬盘,企业级 QLC 固态硬盘在速度具有明显优势的同时,运行能耗较低。同时企业级 QLC 固态硬盘已可实现 61.44TB 容量,相较企业级机械硬盘常见的

利用固态硬盘降低 AI 微调训练显存需求,群联展示 aiDaptiv+ 平台

据外媒 Tom's Hardware 报道,群联在英伟达 GDC2024 上展示了同 Maingear 合作的 aiDaptiv 硬件平台,可降低中小型企业 AI 模型微调训练成本。群联表示中小型企业在模型微调训练方面面临各种困难:采用云服务不仅昂贵也存在数据隐私的不稳定性;而在本地运行又需要复杂的构建过程,电力需求也不能忽视。而群联 aiDaptiv 方案采用超耐用型 aiDAPTIVCache 固态硬盘,可扩展系统的可用内存容量,容纳更大模型,同时也方便易用。具体来说,aiDaptiv 包含的中间件软件库
  • 1