“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推进软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微办事。英伟达认为“AI 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推进其全栈重塑。为方便各种规模的企业安排 AI 办事,英伟达今年 3 月推出了 NIM(Nvidia Inference Microservices)云原生微办事。NIM 是一套经过优化的云原生微办事,旨在缩短上市时间,并简化生成

在目前正在进行的黄仁勋 2024 台北电脑展主题演讲上,黄仁勋介绍生成式人工智能将推进软件全栈重塑,展示其 NIM(Nvidia Inference Microservices)云原生微办事。

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

英伟达认为“AI 工厂”将掀起一场新产业革命:以微软开创的软件行业为例,黄仁勋认为生成式人工智能将推进其全栈重塑。

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

为方便各种规模的企业安排 AI 办事,英伟达今年 3 月推出了 NIM(Nvidia Inference Microservices)云原生微办事。

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

NIM 是一套经过优化的云原生微办事,旨在缩短上市时间,并简化生成式 AI 模型在云、数据中心和 GPU 加速工作站的任何位置的安排。它使用行业标准 API,抽象化 AI 模型开发和生产包装的复杂性,从而扩展开发者池。

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

IT之家注意到,官方制作了一个 llama3 大模型的 NIM 容器,现已上线英伟达官网,开放供全部用户下载并任意安排。

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

“AI 工厂”将推进软件全栈重塑,英伟达提供 Llama3 NIM 容器供用户安排

▲ 英伟达官网

2024 台北国际电脑展专题

给TA打赏
共{{data.count}}人
人已打赏
AI

英伟达数字孪生地球“Earth-2”亮相 2024 台北电脑展,2 千米透彻猜测气象信息

2024-6-2 19:54:31

AI

索尼影业希望使用生成式人工智能来为影戏制造“降本增效”

2024-6-2 22:33:52

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
搜索