马斯克:xAI 训练 Grok-3 大模型用了 10 万块英伟达 H100 芯片

马斯克已经宣布其人工智能初创公司 xAI 的大说话模型 Grok-2 将于 8 月推出,将带来更先进的 AI 功能。虽然 Grok-2 还没亮相,但马斯克已经开始为其 Grok-3 举行造势。马斯克表示,训练 AI 聊天机器人需要数据集,而且从现有数据中清除大型说话模型 (LMM) 的工作量很大。他还谈到了 OpenAI 模型输出训练的几个问题。他透露 xAI 的 Grok-3 用了 10 万块英伟达 H100 芯片举行训练,预计将于年底发布,相信它会“非常特别”。H100 是英伟达开发的专门用于处理大说话模型(L

马斯克已经宣布其人工智能初创公司 xAI 的大说话模型 Grok-2 将于 8 月推出,将带来更先进的 AI 功能。虽然 Grok-2 还没亮相,但马斯克已经开始为其 Grok-3 举行造势。

马斯克:xAI 训练 Grok-3 大模型用了 10 万块英伟达 H100 芯片

马斯克表示,训练 AI 聊天机器人需要数据集,而且从现有数据中清除大型说话模型 (LMM) 的工作量很大。他还谈到了 OpenAI 模型输出训练的几个问题。

他透露 xAI 的 Grok-3 用了 10 万块英伟达 H100 芯片举行训练,预计将于年底发布,相信它会“非常特别”。

H100 是英伟达开发的专门用于处理大说话模型(LLMs)数据的 AI 芯片。每块英伟达 H100 人工智能芯片的价格估量在 3-4 万美元(以后约 21.9 – 29.2 万元人民币)左右,批量采办的话可能会有折扣。

我们简单计算可知,xAI 这里的 10 万块英伟达 H100 价值 30-40 亿美元(IT之家备注:以后约 218.68 – 291.57 亿元人民币)。马斯克之前曾提到特斯拉今年从英伟达的采购额估量将在 30-40 亿美元之间,合理推测 xAI 这里用的是特斯拉采办的英伟达芯片举行训练。

相关阅读:

《马斯克:xAI 将于 8 月推出 Grok-2 大说话模型》

《马斯克:特斯拉今年的英伟达芯片采购额或达 40 亿美元》

给TA打赏
共{{data.count}}人
人已打赏
AI

工信部等四部门印发《国家人工智能家产综合规范化系统建设指南(2024 版)》

2024-7-2 14:17:14

AI

甲骨文推出 HeatWave GenAI:供给数据库内大言语模型等功效

2024-7-2 16:49:36

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索