b1.58

微软开源 1.58bit 推理框架：千亿参数模型量化后单 CPU 可跑，速度每秒 5-7 个 token

微软开源 1bit 大模型推理框架！现在 1000 亿参数大模型量化后单 CPU 可跑，速度可达每秒 5-7 个 token。比如在苹果 M2 新品上运行 BitNet b1.58 3B 模型，be like：就是今年爆火论文 The Era of 1-bit LLMs 的官方代码实现，开源不到一周 GitHub 已揽获 7.9k Star。

资讯热榜

DeepSeek开源多模态模型Janus-Pro的ComfyUI使用教程，文中附模型和工作流下载 DeepSeek + IDEA！辅助编程太强了！ DeepSeek日活用户数突破2000万，增长势头远超ChatGPT 不到140块！李飞飞团队超低成本复刻DeepSeek R1推理！16张H100只训练了26分钟，与R1训练方法不同！冲击DeepSeek R1，谷歌发布新一代Gemini全型号刷榜，编程、物理模拟能力炸裂训练1000样本就能超越o1，李飞飞等人画出AI扩展新曲线爆肝48小时！学会这8招，让DeepSeek变得超好用！谷歌 Gemini 2.0 Flash 系列 AI 模型登场，编程和推理性能迈上新台阶

标签云