AI在线 AI在线

千卡

算力利用率达 97.6%，无问芯穹发布全球首个单任务千卡异构芯片混合训练平台

算力利用率达 97.6%，无问芯穹发布全球首个单任务千卡异构芯片混合训练平台
无问芯穹联合创始人兼 CEO 夏立雪昨日在世界人工智能大会 AI 基础设施论坛上发布了无问芯穹大规模模型的异构分布式混合训练系统，称千卡异构混合训练集群算力利用率最高达到了 97.6%。夏立雪还宣布无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力，是全球首个可进行单任务千卡规模异构芯片混合训练的平台，具备万卡扩展性，支持包括 AMD、华为昇腾、天数智芯、沐曦、摩尔线程、英伟达六种异构芯片在内的大模型混合训练。无问芯穹表示：打开水龙头前，我们不需要知道水是从哪条河里来的。同理，未来我们用各种 AI 应
7/5/2024 8:58:47 AM
沛霖（实习）
30 亿参数“从 0 到 1”，摩尔线程 / 无问芯穹“千卡集群”行业内首次实现国产 GPU 端到端 AI 大模型实训

30 亿参数“从 0 到 1”，摩尔线程 / 无问芯穹“千卡集群”行业内首次实现国产 GPU 端到端 AI 大模型实训
摩尔线程、无问芯穹今天联合宣布，双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训，该模型基于摩尔线程国产全功能 GPU MTT S4000 组成的千卡集群，以及无问芯穹的 AIStudio PaaS 平台打造。据悉，这次的 MT-infini-3B 模型训练总共用时 13.2 天，全程稳定无中断，集群训练稳定性达到 100％，千卡训练和单机相比扩展效率超过 90％，号称“充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性，同时也在行业内率先开启了国产大语言模型与
5/27/2024 11:10:51 AM
漾仔
  • 1