本次部署使用长江计算 G440K V2 服务器,基于 MindIE 推理引擎,在华为云 AI 开发平台 ModelArts 上完成。
据介绍,G440K V2 服务器由长江计算自主研发,已实现 DeepSeek 系列模型的推理适配和优化,其采用 8 模组高效推理方式,可提供 AI 推理能力,满足 DeepSeek 大模型算力需求。
AI在线从烽火通信获悉,该服务器宣称在内存带宽和互联能力方面具有优势,在 DeepSeek 系列模型部署中,可提高模型推理速度、响应效率和数据处理能力,满足多机组网推理的需求。当前已应用于智能客服、文案生成、知识沉淀等大模型推理场景中,同时确保部署应用中的数据安全与自主可控。