UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

该基准测试目前包括 4 种参数规模不一的模型,分别为 Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B。

3DMark 开发方 UL Solution 当地时间 9 日宣布推出 Procyon AI 文本生成基准测试,通过使用多种不同参数规模的大语言 AI 模型综合判断 AI 加速器硬件的文本生成能力。

UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

Procyon AI 文本生成基准测试目前支持通过 DirectML 通用 API 调用本地的英伟达、AMD、英特尔 GPU,也可通过英特尔的 OpenVINO 调用其自家 GPU(AI在线注:独立和集成显卡均支持,但对显存 / 内存容量要求存在差异)。

该基准测试现包括 4 种参数规模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可对 AI GPU 在多样化大语言模型文本生成用例中的表现进行相对公允的比较。

UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

▲ 成绩页面

UL Solution 表示 Procyon AI 文本生成基准测试在操作上更为简易轻松,与直接使用完整 AI 模型测试相比又减小了安装体积,能详细展示运行文本生成负载时系统资源的使用情况。

相关资讯

UL Procyon AI 图像生成基准测试现已适配兼容苹果 macOS 系统

测试认证机构、3DMark 开发方 UL Solution 宣布旗下 UL Procyon AI 图像生成基准测试现已兼容苹果 macOS 操作系统。该 AI 图像生成基准测试于上月推出,是 UL Procyon 专业基准测试套件的一部分。其基于 Stable Diffusion AI 模型(包含 1.5 和 XL 两种版本),能在所有支持的硬件上得到公平且可比较的结果。UL Procyon AI 图像生成基准测试通过强大的推理负载测量专用 AI 处理硬件的性能,首发时适配支持英伟达 TensorRT、英特尔 Op

MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5

MLPerf Client 基准测试的诞生是 AMD、英特尔、微软、英伟达、高通和顶级 PC OEM 等利益相关方的合作成果。

14 项任务测下来,GPT4V、Gemini等多模态大模型竟都没什么视觉感知能力?

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:[email protected][email protected]年,以 GPT-4V、Gemini、Claude、LLaVA 为代表的多模态大模型(Multimodal LLMs)已经在文本和图像等多模态内容处理方面表现出了空前的能力