AI在线 AI在线

华为 ModelEngine AI 平台支持 DeepSeek 全系列本地部署

作者:归泷(实习)
2025-02-06 04:55
为技术有限公司今日发文宣布,旗下 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

华为技术有限公司今日发文宣布,旗下 ModelEngine AI 平台全面支持 DeepSeek 大模型 R1 & V3 和蒸馏系列模型的本地部署与优化。

据介绍,华为 ModelEngine 是大模型训练、推理和应用开发的 AI 平台,提供从数据预处理到模型训练、优化及部署的一站式服务。此次 ModelEngine 基于昇腾 AI 芯片,通过推理框架优化和 MoE 存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延,用户通过 ModelEngine 体验 DeepSeek 的推理能力。特性如下:

灵活部署:ModelEngine 全面支持 DeepSeek 系列模型 R1 & V3 671B 以及蒸馏系列模型,开发者可通过 ModelEngine 实现“一键部署”,省去硬件选型、兼容性验证和环境配置等繁琐步骤,大幅降低企业 AI 应用门槛。此外,ModelEngine 通过其高度的开放性和模块化设计,极大地缩短了 DeepSeek 的本地部署时间。

企业级稳定性:ModelEngine 提供负载均衡、模型安全接入、多用户配额管理等高阶特性,支持大规模生产环境下的稳定运行。某证券公司引入 DCS AI 全栈解决方案后,运维成本降低 42%

另外,华为官方表示,DCS AI 全栈解决方案近期将上线 DeepSeek 体验环境。

AI在线注:ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。

相关资讯

华为 ModelEngine 成功获中国信通院认证,助力AI大模型发展

近日,华为推出的 ModelEngine AI 全流程工具链获得了中国信息通信研究院的官方认证,成为国内首个通过该评估的软件。 此次认证标志着华为在人工智能领域的重要进展,同时也为 AI 技术的普及化和应用落地提供了新的契机。 在当今科技迅猛发展的时代,AI 已经成为各行业转型的重要工具。
3/27/2025 9:55:00 AM
AI在线

业界首个、开箱即用,华为 AI 训推全流程工具链 ModelEngine 亮相

8 月 15 日,由开源中国与上海浦东软件园联合举办的全球开源技术峰会(GOTC2024)在上海举行。华为数据存储软件首席专家张群辉分享了 ModelEngine 在垂域大模型领域的应用实践。▲ 华为数据存储软件首席专家张群辉据张群辉介绍,ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程
8/16/2024 7:47:50 AM
汪淼

华为 ModelEngine 全流程 AI 开发工具链开源

ModelEngine 开源版本内置数据处理算子,完整的模型管理流程,面向应用提供低代码编排、RAG 框架、自定义插件能力。
3/27/2025 6:38:19 PM
汪淼