部署 - AI在线

荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型：功耗下降 80%，内存占用减少 1.6GB

感谢荣耀今日正式发布 MagicOS 9.0，号称是“行业首个搭载智能体的个人化全场景 AI 操作系统”。在 MagicOS 9.0 中，MagicOS 全新魔法大模型家族迎来升级，支持端云资源灵活调配，不同设备灵活部署，AI在线附各版本如下：500 万参数图像大模型，端侧部署，全系列支持4000 万参数图像大模型，端侧部署，中高端系列30 亿参数大语言模型，端侧部署，中高端系列10 亿参数多模态大模型，端侧部署，中高端系列1500 万参数语音大模型，端侧部署，全系列支持荣耀表示，MagicOS 9.0 升级支持 30 亿参数端侧大语言模型，相比 MagicOS 8.0 的 70 亿参数魔法大模型，加载速度提升 77%、出词速度提升 500%、功耗下降 80%。此外，新版大模型的内存占用减少 1.6GB，存储占用减少 1.8GB。

中国算力大会，联想重磅发布两款明星算力新品

9月27日，为期3天的2024中国算力大会正式拉开帷幕。在大会异构智算产业生态联盟技术论坛上，联想集团正式发布新一代AI服务器联想问天WA7880a G3和联想AIPod应用部署解决方案两款重磅产品和解决方案。联想AI基础设施“一横五纵”的战略版图进一步丰富和完善。联想问天WA7880a G3是针对AI大模型训练推出的新一代AI服务器，具备多元算力、灵活配置和节能高效三大特点。它也是国内首款支持OAM 2.0模组的服务器，可兼容国内主流GPU厂商的OAM GPU；在配置选择上支持CPU和GPU之间单上行和双上行拓扑