4090
“全球首创”单台 RTX 4090 服务器推理，昆仑万维开源 2 千亿稀疏大模型天工 MoE
昆仑万维今日宣布开源 2 千亿稀疏大模型 Skywork-MoE，基于之前昆仑万维开源的 Skywork-13B 模型中间 checkpoint 扩展而来，号称是首个完整将 MoE Upcycling 技术应用并落地的开源千亿 MoE 大模型，也是首个支持用单台 RTX 4090 服务器（8 张 RTX 4090 显卡）推理的开源千亿 MoE 大模型。据介绍，本次开源的 Skywork-MoE 模型隶属于天工 3.0 的研发模型系列，是其中的中档大小模型（Skywork-MoE-Medium），模型的总参数量为 1
6/3/2024 6:11:54 PM
汪淼
- 1
资讯热榜
DeepSeek开源多模态模型Janus-Pro的ComfyUI使用教程，文中附模型和工作流下载
DeepSeek 全面指南：95% 的人都不知道的九个技巧
DeepSeek + IDEA！辅助编程太强了！
DeepSeek日活用户数突破2000万，增长势头远超ChatGPT
冲击DeepSeek R1，谷歌发布新一代Gemini全型号刷榜，编程、物理模拟能力炸裂
DeepSeek V3 和 R1 模型完成海光 DCU 国产化适配并正式上线
不到140块！李飞飞团队超低成本复刻DeepSeek R1推理！16张H100只训练了26分钟，与R1训练方法不同！
如何利用DeepSeek进行高效内容创作：提升效率与流量的终极指南
标签云
人工智能
AIGC
OpenAI
AI绘画
ChatGPT
机器人
数据
谷歌
智能
Midjourney
大模型
学习
GPT
用户
AI创作
微软
图像
开源
Meta
技术
论文
Stable Diffusion
DeepSeek
AI
生成式
算法
蛋白质
马斯克
芯片
Gemini
计算
神经网络
代码
AI设计
研究
Sora
腾讯
3D
开发者
GPU
场景
伟达
英伟达
预测
模态
华为
机器学习
Transformer
文本
驾驶
神器推荐
深度学习
AI视频
AI for Science
干货合集
苹果
搜索
LLaMA
算力
视频生成
2024
科技
百度
Copilot
模型
应用
AI应用场景
特斯拉
安全
具身智能
写作
机器
Anthropic
字节跳动
视觉
AGI
语音
架构
DeepMind
prompt