UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

该基准测试目前包括 4 种参数规模不一的模型,分别为 Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B。

3DMark 开发方 UL Solution 当地时间 9 日宣布推出 Procyon AI 文本生成基准测试,通过使用多种不同参数规模的大语言 AI 模型综合判断 AI 加速器硬件的文本生成能力。

UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

Procyon AI 文本生成基准测试目前支持通过 DirectML 通用 API 调用本地的英伟达、AMD、英特尔 GPU,也可通过英特尔的 OpenVINO 调用其自家 GPU(AI在线注:独立和集成显卡均支持,但对显存 / 内存容量要求存在差异)。

该基准测试现包括 4 种参数规模不一的模型(Phi-3.5-mini、Mistral-7B、Llama-3.1-8B 和 Llama-2-13B),可对 AI GPU 在多样化大语言模型文本生成用例中的表现进行相对公允的比较。

UL Solutions 推出 AI 文本生成基准测试,支持英伟达、AMD、英特尔三家显卡

▲ 成绩页面

UL Solution 表示 Procyon AI 文本生成基准测试在操作上更为简易轻松,与直接使用完整 AI 模型测试相比又减小了安装体积,能详细展示运行文本生成负载时系统资源的使用情况。

给TA打赏
共{{data.count}}人
人已打赏
应用

Omdia:预计 2029 年生成式 AI 市场规模达 728 亿美元

2024-12-11 14:12:31

应用

消息称字节跳动提升即梦产品优先级,尝试打造“AI 时代的抖音”

2024-12-11 15:39:56

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索