华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

为技术有限公司今日发文宣布,旗下 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

华为技术有限公司今日发文宣布,旗下 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

据介绍,华为 ModelEngine 是大模型训练、推理和应用开发的 AI 平台,提供从数据预处理到模型训练、优化及部署的一站式服务。此次 ModelEngine 基于昇腾 AI 芯片,通过推理框架优化和 MoE 存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延,用户通过 ModelEngine 体验 DeepSeek 的推理能力。特性如下:

灵活部署:ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸馏系列模型,开发者可通过 ModelEngine 实现“一键部署”,省去硬件选型、兼容性验证和环境配置等繁琐步骤,大幅降低企业 AI 应用门槛。此外,ModelEngine 通过其高度的开放性和模块化设计,极大地缩短了 DeepSeek 的本地部署时间。

企业级稳定性:ModelEngine 提供负载均衡、模型安全接入、多用户配额管理等高阶特性,支持大规模生产环境下的稳定运行。某证券公司引入 DCS AI 全栈解决方案后,运维成本降低 42%

另外,华为官方表示,DCS AI 全栈解决方案近期将上线 DeepSeek 体验环境。

AI在线注:ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。

相关资讯

业界首个、开箱即用,华为 AI 训推全流程工具链 ModelEngine 亮相

8 月 15 日,由开源中国与上海浦东软件园联合举办的全球开源技术峰会(GOTC2024)在上海举行。华为数据存储软件首席专家张群辉分享了 ModelEngine 在垂域大模型领域的应用实践。▲ 华为数据存储软件首席专家张群辉据张群辉介绍,ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程

OpenAI首席研究官:DeepSeek独立发现了o1的一些核心思路,奥特曼、LeCun纷纷置评

成本打下来了,需求更多才对? 春节这几天,国内外 AI 圈都被 DeepSeek 刷了屏。 英伟达的股市震荡更是让全世界看得目瞪口呆(参见《英伟达市值蒸发近 6000 亿美元,而 DeepSeek 刚刚又开源新模型》)。

自有歪果仁为DeepSeek「辩经」:揭穿围绕DeepSeek的谣言

围绕 DeepSeek 的谣言实在太多了。 面对 DeepSeek R1 这个似乎「一夜之间」出现的先进大模型,全世界已经陷入了没日没夜的大讨论。 从它的模型能力是否真的先进,到是不是真的只用了 550W 进行训练,再到神秘的研究团队,每个角度都是话题。