AI在线注意到，早前豆包团队发布了新一代稀疏架构 UltraMem，将模型推理成本砍掉 83%，此次，又开源了 COMET，向模型训练成本出手。
目前，COMET 核心代码已开源，并计划兼容 Triton 等编译生态。
论文链接：https://arxiv.org/pdf/2502.19811
开源地址：https://github.com/bytedance/flux
字节跳动豆包大模型团队开源MoE架构优化技术，训练成本节省40%
作者：远洋
2025-03-10 05:42
字节跳动豆包大模型团队官宣开源一项针对 MoE（混合专家模型）架构的关键优化技术，可将大模型训练效率提升 1.7 倍，成本节省 40%。据悉，该技术叫做 COMET，已实际应用于字节的万卡集群训练，累计帮助节省了数百万 GPU 小时训练算力。
感谢字节跳动豆包大模型团队官宣开源一项针对 MoE（混合专家模型）架构的关键优化技术，可将大模型训练效率提升 1.7 倍，成本节省 40%。据悉，该技术叫做 COMET，已实际应用于字节的万卡集群训练，累计帮助节省了数百万 GPU 小时训练算力。
相关资讯
DeepSeek 反思潮：AGI 既被重新审视，又被持续低估
2 月很有意思。 一、DeepSeek 反思潮在 DeepSeek 的集体反思潮中，无论是大厂内部的“AGI 创业团队”、还是 AGI 的明星创业公司，都进行了战略调整。 很显然，DeepSeek 的暴击让整个行业都进行了一次深刻的反思，值得注意的几个变化是：首先，大模型创业公司重新将技术突破提升到一个新的高度、超越产品更新成为公司战略发展的优先级。
字节跳动豆包新版深度思考开启测试，支持边想边搜
据介绍，和之前的深度思考不同，新版功能将推理过程的思维链与搜索深度结合，支持边想边搜。思考过程中，豆包可基于推理多次调用工具、搜索信息，提供更加全面、准确的结果。
字节全新发布豆包AI视频模型：再见了Sora，你的时代过去了
刚刚，字节的火山引擎的发布会基本结束了。
我现在有点过于激动。
虽然发布会结束了，但是我觉得，一个颠覆行业的全新的起点，在这一刻，正式到来了。
字节正式发布了他们全新的两款 AI 视频模型：
豆包视频生成-PixelDance 模型和 Seaweed 模型。Seaweed 模型下次我再详细来说。这次，我想说这个豆包 PixelDance 模型，因为太屌了，屌炸了，我真的是全程惊叹着看完的。
他们正式宣布这玩意的那一刻，现场掌声雷动，我隔着屏幕都感觉快特么把房顶掀翻了。
真的，如果要给这个豆包 PixelDance