美团开源首发 INT8 无损满血版 DeepSeek R1，部署 A100 实现 50% 吞吐提升

2025-03-07 06:00

目前，量化代码已经合入到了开源 LLM 推理框架 SGLang，量化模型已经发布到了 Hugging Face 社区，方便用户使用。

感谢美团搜推机器学习团队 3 月 4 日公布最新首发开源成果，实现对 DeepSeek R1 模型基本无损的 INT8 精度量化。

DeepSeek R1 原生版本的模型权重为 FP8 数据格式，对 GPU 芯片类型有严格限制，仅能被英伟达新型 GPU 支持（如 Ada、Hopper 架构芯片），其他型号 GPU（如 A100）无法直接部署。

目前，量化代码已经合入到了开源 LLM 推理框架 SGLang，量化模型已经发布到了 Hugging Face 社区，方便用户使用。官方测试，满血版 DeepSeek R1 部署 A100，基于 INT8 量化，相比 BF16 实现 50% 吞吐提升。

美团开源首发 INT8 无损满血版 DeepSeek R1，部署 A100 实现 50% 吞吐提升

AI在线附开源地址：

https://huggingface.co/meituan/DeepSeek-R1-Channel-INT8

程序员购买OGOpenAI.com域名转向DeepSeek

最近，一名软件工程师以 “不到一顿 Chipotle 餐的价格” 购买了 OGOpenAI.com 域名，并将其重定向至中国人工智能实验室 DeepSeek 的网站。该实验室在开源 AI 领域崭露头角，吸引了广泛的关注。据软件工程师阿纳奈・阿罗拉（Ananay Arora）向《TechCrunch》透露，他的初衷是为了支持 DeepSeek，因为该实验室最近推出了一款名为 DeepSeek-R1的开放版本模型，声称在某些基准测试中表现优于 OpenAI 的 o1。

发烧友！一国外软件工程师买下OGOpenAI.com域名并重定向至DeepSeek

最近，一位软件工程师安纳奈・阿罗拉（Ananay Arora）以 “不到一顿 Chipotle 餐” 的价格购买了域名 OGOpenAI.com，并将其重定向至中国的 AI 实验室 DeepSeek。这个决定引发了许多人的关注，因为 DeepSeek 近期在开源 AI 领域中取得了显著进展，成为了热议的话题。 DeepSeek 发布的 AI 模型在技术上与早期的 OpenAI 模型相似，能够离线使用，并且任何具备相应硬件的开发者都可以免费使用。

5 个人三小时复刻开源版 Manus，邀请码也不需要

5人团队3小时复刻开源版OpenManus，无需邀请码。其实现依赖MetaGPT，也为Manus“套壳风波”提供新视角。关键在于生产力提升。#开源版Manus# #OpenManus# #Manus#

资讯热榜

Manus 内测启动：Monica 团队推出“通用 AI 代理”引发热议阿里新开源推理大模型QwQ-32B，性能媲美DeepSeek-R1、显存需求更小 DeepSeek+Drawio一键生成20多种图表，90%都不知道的技巧（附保姆级教程）万字梳理：揭秘 DeepSeek 中的 RL 与 AGI 下一步丨AIR 2025 Sesame 发布 CSM 语音模型：跨越“恐怖谷”，逼真程度惊艳全球大模型系列：DeepSeek大模型与应用场景介绍视觉强化微调！DeepSeek R1技术成功迁移到多模态领域，全面开源用上DeepSeek，改简历快人一步：AI简历优化保姆级教程

标签云

美团开源首发 INT8 无损满血版 DeepSeek R1，部署 A100 实现 50% 吞吐提升

相关资讯

程序员购买OGOpenAI.com域名转向DeepSeek

发烧友！一国外软件工程师买下OGOpenAI.com域名并重定向至DeepSeek

5 个人三小时复刻开源版 Manus，邀请码也不需要