AMD 发布首个 10 亿开源 AI 模型 OLMo,用 Instinct MI250 GPU 集群训练而成

AMD 公司于 10 月 31 日发布博文,宣布推出首个完全开放的 10 亿参数语言模型系列 AMD OLMo,为开发者和研究人员提供强大的 AI 研究工具。
感谢AMD 公司于 10 月 31 日发布博文,宣布推出首个完全开放的 10 亿参数语言模型系列 AMD OLMo,为开发者和研究人员提供强大的 AI 研究工具。

AMD OLMo 模型使用从零开始训练的 10 亿参数语言模型系列(LMs),在 AMD Instinct™ MI250 GPU 集群上训练,使用了超过 1.3 万亿个 tokens 进行预训练,让模型在处理自然语言任务时具有强大的推理能力。

AI在线援引新闻稿,OLMo 模型采用解码器(decoder-only)架构,并通过下一个标记预测(next-token prediction)进行训练,这种架构在生成文本和理解上下文方面表现出色。

AMD 发布首个 10 亿开源 AI 模型 OLMo,用 Instinct MI250 GPU 集群训练而成

与其他同类开源模型相比,AMD OLMo 在推理能力和聊天能力上表现优异。尤其是在多个基准测试中,其性能与最新的 OLMo 模型相当,且计算预算仅为其一半。

AMD 发布首个 10 亿开源 AI 模型 OLMo,用 Instinct MI250 GPU 集群训练而成

AMD 发布首个 10 亿开源 AI 模型 OLMo,用 Instinct MI250 GPU 集群训练而成

AMD 发布首个 10 亿开源 AI 模型 OLMo,用 Instinct MI250 GPU 集群训练而成

AMD 发布首个 10 亿开源 AI 模型 OLMo,用 Instinct MI250 GPU 集群训练而成

OLMo 除数据中心使用外,更支持配备 NPU(Neural Processing Unit,神经处理单元)的 AMD Ryzen AI PC 能够部署模型,使开发者能在个人设备提供 AI 功能。

AMD OLMo 是完全开源的,这意味着其他开发者和公司可以自由使用和修改这些模型,这让其成为希望探索 AI 技术替代方案的企业的一个可行选择。

相关资讯

联想宣布 4 月 18 日在创新科技大会发布 AI PC 新品

在今日下午的 AMD AI PC 创新峰会上,联想集团执行副总裁兼中国区总裁刘军宣布,将于 4 月 18 日在联想创新科技大会上发布 AI PC 新品。刘军表示,联想坚持全栈 AI 战略,推动 AI 内嵌的智能终端、AI 导向的基础设施与 AI 原生的方案服务发展。联想表示,PC 行业即将迎来继“家用电脑”、“互联网电脑”后的第三次代际升级,即基于大模型技术的 AI PC 时代。联想认为,AI PC 将成为未来每个人的个人 AI 助理,存在五大特征:内嵌基于个人大模型、自然交互的个人智能体内嵌个人知识库具有 CPU

苏姿丰亮相北京高喊 YES,AMD 展示 AI 笔记本实时简笔画生图

感谢在今日下午的 AMD AI PC 创新峰会上,AMD CEO 苏姿丰亮相北京的峰会现场,喊出“AMD AI PC YES!”▲ IT之家现场小编与“苏妈”苏姿丰合影本次峰会主要介绍 AMD 锐龙 8040 系列移动处理器的 AI 功能和 Ryzen AI Software 平台,苏姿丰表示数以百万计的锐龙 AI PC 已经出货。AMD 还晒出了不同的 AI 产品架构,包括 Zen CPU 的路线图和 RDNA GPU 的路线图。随后,AMD 展示了锐龙 7 8845HS 笔记本上的 AI 应用,包括实时画图、写

一年一更同步英伟达,AMD 公布 2024~2026 年 Instinct GPU 加速器路线图

感谢AMD 今日公布直至 2026 年的 Instinct GPU AI 加速器路线图。AMD 宣布其 Instinct 产品线更新节奏调整与英伟达相同的一年一更,以满足不断扩张的 AI 应用需求。AMD Instinct MI325X 加速器将在今年四季度率先上市 ,其可视为 MI300 更换 HBM3E 内存的刷新版本。该加速器内存容量将从 MI300X 的 192GB 提升至 288GB,同时内存带宽也从 5.3TB / s 小幅增加至 6TB / s(IT之家注:内存等效速率从 5.2Gbps 提升至 5.