过滤

数据更多更好还是质量更高更好？这项研究能帮你做出选择

当计算预算低时，重复使用高质量数据更好；当不差钱时，使用大量数据更有利。对基础模型进行 scaling 是指使用更多数据、计算和参数进行预训练，简单来说就是「规模扩展」。虽然直接扩展模型规模看起来简单粗暴，但也确实为机器学习社区带来了不少表现卓越的模型。之前不少研究都认可扩大神经模型规模的做法，所谓量变引起质变，这种观点也被称为神经扩展律（neural scaling laws）。近段时间，又有不少人认为「数据」才是那些当前最佳的闭源模型的关键，不管是 LLM、VLM 还是扩散模型。随着数据质量的重要性得到认可，已

5/20/2024 3:04:00 PM

机器之心

资讯热榜

基于 Spring AI + MCP + DeepSeek-R1-7B 构建企业级智能 Agent 工具调用系统 OpenAI开源超Agent:Codex CLI,五小时内破 5000 颗星这样在本地搭建DeepSeek可以直接封神：本地部署+避坑指南（升级版） OpenAI 发布“智能体构建实战指南”实用性文档（附文档资源） OpenAI发布34页智能体实践指南：从网络搜索到代码编写 Trae v1.3.0重磅更新，新增MCP与.rules支持引领AI开发新体验别再只玩ChatGPT了！OpenAI悄悄发布《构建 Agent 实战指南》手把手教你打造智能体 Midjourney图像编辑器迎来重大更新：全新UI、图层功能与智能工具上线

标签云

人工智能 OpenAI AIGC AI ChatGPT AI绘画 DeepSeek 数据机器人谷歌模型大模型 Midjourney 智能用户学习开源 GPT 微软 Meta AI创作图像技术论文 Stable Diffusion 马斯克 Gemini 算法蛋白质生成式芯片代码英伟达腾讯神经网络计算研究 Sora Anthropic AI for Science AI设计 3D 机器学习 GPU 开发者 AI视频场景华为预测人形机器人伟达 Transformer 百度苹果深度学习模态 xAI 字节跳动驾驶 Claude 文本搜索神器推荐大语言模型具身智能 Copilot LLaMA 算力视频生成安全干货合集应用视觉科技亚马逊大型语言模型特斯拉 2024 AGI 训练