Orca 2
微软教小模型推理进阶版：Orca 2性能媲美10倍参数模型，已开源
站在巨人的肩膀上会让你看的更远，而通过让大规模语言模型来「教」较小规模的语言模型进行推理，也会是事半功倍的效果。如你我所见，像 GPT-4、PaLM 等前沿语言模型已经展现了出色的推理能力，例如回答复杂问题、生成解释，甚至解决需要多步推理的问题，这些能力曾被认为是 AI 无法达到的。这样的能力在较小的语言模型中并不明显，因此现在的挑战就是如何利用对大型语言模型不断增长的知识，进而提升较小模型的能力。之前微软研究院推出了 Orca，它是拥有 130 亿参数的语言模型，通过模仿更强大 LLM 的逐步推理过程，展现了强大
12/4/2023 10:47:00 AM
机器之心
- 1
资讯热榜
DeepSeek R1 简易指南：架构、本地部署和硬件要求
DeepSeek 全面指南：95% 的人都不知道的九个技巧
硅基流动×华为云联合推出基于昇腾云的DeepSeek R1&V3推理服务
冲击DeepSeek R1，谷歌发布新一代Gemini全型号刷榜，编程、物理模拟能力炸裂
DeepSeek V3 和 R1 模型完成海光 DCU 国产化适配并正式上线
DeepSeek开源多模态模型Janus-Pro的ComfyUI使用教程，文中附模型和工作流下载
香橙派发布 AI Studio Pro 算力卡华为昇腾开发板，13606 元起
不到140块！李飞飞团队超低成本复刻DeepSeek R1推理！16张H100只训练了26分钟，与R1训练方法不同！
标签云
人工智能
AIGC
OpenAI
AI绘画
ChatGPT
机器人
数据
谷歌
智能
学习
Midjourney
大模型
GPT
用户
AI创作
微软
图像
开源
Meta
技术
论文
Stable Diffusion
生成式
算法
蛋白质
马斯克
芯片
AI
计算
Gemini
神经网络
AI设计
代码
研究
Sora
腾讯
DeepSeek
3D
开发者
场景
GPU
伟达
预测
英伟达
模态
华为
Transformer
机器学习
文本
驾驶
神器推荐
AI视频
深度学习
干货合集
搜索
LLaMA
算力
AI for Science
苹果
视频生成
2024
科技
百度
Copilot
应用
AI应用场景
安全
具身智能
写作
特斯拉
机器
字节跳动
模型
视觉
语音
Anthropic
AGI
架构
prompt
英特尔