AMDAI大模型
联想问天WA7785a G3服务器创纪录!单机运行671B DeepSeek大模型吞吐量高达6708token/s!
联想今日宣布,旗下首款 AMD AI 大模型训练服务器——联想问天 WA7785a G3在单机部署671B(满血版) DeepSeek 大模型时,实现了高达6708token/s 的极限吞吐量,再次刷新了单台服务器运行超大规模模型性能的纪录。 据介绍,此次性能突破得益于联想万全异构智算平台的强大支持。 联想通过访存优化、显存优化、创新的 PCIe5.0全互联架构以及精选 SGLang 框架中的最优算子等一系列创新技术手段,对大模型从预训练、后训练到推理的全流程进行了持续优化。
3/17/2025 2:51:00 PM
AI在线
- 1
资讯热榜
ChatGPT“生成吉卜力风格 AI 图”海外潮流引发版权争议,CEO Sam Altman 回应将施以限制
DeepSeek-R1之后推理模型发展如何?Raschka长文梳理后R1时代14篇重要论文
内存革命!LangGraph 0.3.19如何实现Python内存使用效率的飞跃?
宫崎骏“怒了”?ChatGPT吉卜力风潮惹版权争议,OpenAI或面临法律挑战!
DeepSeek V3来了 老外评测结果:很不错
告别AI“一本正经”!Midjourney联手NYU解锁创意文本新维度,多样性飙升23%!
DeepSeek 月访问量超越 ChatGPT,成为 AI 工具新星
模型上下文协议(MCP)开发实战——构建LangChain代理客户端
标签云
人工智能
OpenAI
AIGC
AI
ChatGPT
AI绘画
DeepSeek
机器人
数据
谷歌
模型
大模型
Midjourney
智能
用户
学习
GPT
开源
微软
AI创作
Meta
图像
技术
论文
Stable Diffusion
马斯克
算法
Gemini
蛋白质
生成式
芯片
代码
神经网络
腾讯
英伟达
计算
研究
Sora
AI for Science
AI设计
3D
机器学习
GPU
开发者
Anthropic
场景
华为
预测
伟达
Transformer
深度学习
模态
百度
AI视频
苹果
驾驶
文本
搜索
xAI
Copilot
神器推荐
人形机器人
LLaMA
具身智能
算力
安全
大语言模型
Claude
应用
字节跳动
视频生成
科技
视觉
干货合集
2024
AGI
亚马逊
特斯拉
架构
语音