MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5

MLPerf Client 基准测试的诞生是 AMD、英特尔、微软、英伟达、高通和顶级 PC OEM 等利益相关方的合作成果。

开放式机器学习工程联盟 MLCommons 美国加州当地时间昨日宣布推出适用于衡量消费类 PC 的 AI 性能的 MLPerf Client 基准测试的 0.5 版本,这也是该测试的首个公开版本

MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5

MLCommons 表示 MLPerf Client 基准测试的诞生是 AMD、英特尔、微软、英伟达、高通和顶级 PC OEM 等利益相关方的合作成果,各方为该测试贡献了丰富的专业知识和资源。

MLPerf Client 基准测试 0.5 版本基于 Meta 的 Llama 2 7B 开源 LLM,包含四项 AI 任务(内容生成、创意写作、对两份不同长度文本的摘要),目前支持 DirectML ONNX 和 OpenVINO(仅限英特尔 GPU)两种加速路径。

该基准测试初期仅支持 Windows x86-64 设备,可在以下设备上运行:

  • AMD Radeon RX 7900 系列独立显卡;

  • 最低 8GB 显存的英特尔锐炫独显;

  • 最低 12GB 显存的英伟达 GeForce RTX 40 系独显;

  • 锐龙 AI 9 系列处理器(最低 32GB 内存);

  • 搭载英特尔锐炫核显的酷睿 Ultra 200 系处理器(最低 16GB 内存)。

MLCommons 表示 MLPerf Client 未来将支持 macOS 和 Windows on Arm 设备,同时还将支持额外的硬件加速路径并引入包含一系列 AI 模型的更广泛测试场景。

AI在线附 MLPerf Client v0.5 官网页面链接如下:

  • https://mlcommons.org/benchmarks/client/

相关资讯

UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

该基准测试目前包括 4 种参数规模不一的模型,分别为 Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B。

14 项任务测下来,GPT4V、Gemini等多模态大模型竟都没什么视觉感知能力?

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected][email protected]年,以 GPT-4V、Gemini、Claude、LLaVA 为代表的多模态大模型(Multimodal LLMs)已经在文本和图像等多模态内容处理方面表现出了空前的能力

只谈「技术」,不谈「安全」?今晚,我们聊聊人工智能的AB面

聚焦隐私计算、Deepfake、对抗学习等AI安全领域,精彩全分享。