显存
智谱 AI 开源 CogVideoX 视频生成模型：“清影”同源，单张 4090 显卡可推理
感谢智谱 AI 今日宣布，将与“清影”同源的视频生成模型 ——CogVideoX 开源。据介绍，CogVideoX 开源模型包含多个不同尺寸大小的模型，目前将开源 CogVideoX-2B，它在 FP-16 精度下的推理需 18GB 显存，微调则需要 40GB 显存，这意味着单张 4090 显卡即可进行推理，而单张 A6000 显卡即可完成微调。CogVideoX-2B 的提示词上限为 226 个 token，视频长度为 6 秒，帧率为 8 帧 / 秒，视频分辨率为 720*480。官方表示，性能更强参数量更大的模
腾讯混元 DiT 文生图大模型开源 6G 小显存版本，一同开源打标模型
腾讯混元文生图大模型（混元 DiT）今日宣布开源小显存版本，仅需 6G 显存即可运行，对使用个人电脑本地部署的开发者比较友好。此外，腾讯宣布混元文生图打标模型“混元 Captioner”正式对外开源。该模型支持中英文双语，针对文生图场景进行专门优化，可帮助开发者快速制作文生图数据集。腾讯混元 DiT 模型升级腾讯混元 DiT 模型宣布了三大更新：推出小显存版本与 Kohya 训练界面，并升级至 1.2 版本，进一步降低使用门槛的同时提升图片质量。基于 DiT 架构的文生图模型生成图片质感更佳，但对显存的要求却非常高
利用固态硬盘降低 AI 微调训练显存需求，群联展示 aiDaptiv+ 平台
据外媒 Tom's Hardware 报道，群联在英伟达 GDC2024 上展示了同 Maingear 合作的 aiDaptiv 硬件平台，可降低中小型企业 AI 模型微调训练成本。群联表示中小型企业在模型微调训练方面面临各种困难：采用云服务不仅昂贵也存在数据隐私的不稳定性；而在本地运行又需要复杂的构建过程，电力需求也不能忽视。而群联 aiDaptiv 方案采用超耐用型 aiDAPTIVCache 固态硬盘，可扩展系统的可用内存容量，容纳更大模型，同时也方便易用。具体来说，aiDaptiv 包含的中间件软件库
消息称英伟达 Blackwell“B100”GPU 将配 192GB HBM3e 显存，B200 配 288GB 显存
感谢英伟达将在明日举行 GTC 2024 主题演讲，黄仁勋预计将宣布名为 Blackwell 的下一代 GPU 架构。据 XpeaGPU 爆料称，明天推出的 B100 GPU 将采用两个基于台积电 CoWoS-L 封装技术的芯片。CoWoS（晶圆基片芯片）是一项先进的 2.5D 封装技术，涉及将芯片堆叠在一起，提高处理能力，同时节省空间并降低功耗。XpeaGPU 透露，B100 GPU 的两个计算芯片将连接到 8 个 8-Hi HBM3e 显存堆栈，总容量为 192GB。值得注意的是，AMD 已经提供了 192GB
阿里开源 支持10万亿模型的自研分布式训练框架EPL(Easy Parallel Library)
最近阿里云机器学习PAI平台和达摩院智能计算实验室一起发布“低碳版”巨模型M6-10T，模型参数已经从万亿跃迁到10万亿，规模远超业界此前发布的万亿级模型，成为当前全球最大的AI预训练模型。
- 1