数据集

全面增强LLM推理/规划/执行力！北航提出全新「内置CoT」思考方法

用户已经习惯于将大模型如ChatGPT、Llama-3-chat等当作聊天对象，然而在用户和聊天助手的会话中，有的用户提示（例如一些命令或请求）不能在一轮会话中结束，需要大语言模型和用户进行多轮会话。这种跨越多轮的会话目前仍然存在一些问题：大语言模型的回答容易出错，不能帮助用户达到目标，且随着会话轮数增加出错概率会增大。对同一个命令或问题，大语言模型比较难以根据实际需求产生不同流程的响应，在需要大语言模型与环境交互时，目前比较流行的做法是使用函数调用或工具调用，但不够优雅和高效，而且由于上下文窗口的限制，能支持的工具调用数量有限。

CVPR满分论文：一块2080Ti搞定数据蒸馏，GPU占用仅2G，来自上交大“最年轻博导”课题组

只要一块6年前的2080Ti，就能做大模型数据蒸馏？来自上交大EPIC实验室等机构的一项最新研究，提出了一种新的数据集蒸馏方法——NFCM。与前SOTA相比，新方法的显存占用只有1/300，并且速度提升了20倍，相关论文获得了CVPR满分。

不可信任的人工智能：如何处理数据中毒？

译者 | 布加迪审校 | 重楼现代技术远非万无一失——比如说，我们可以看到，众多漏洞不断涌现出来。虽然通过设计保证安全的系统是一条屡试不爽的最佳实践，但这么做可能会分流来自其他方面的资源，比如用户体验（UX）设计、性能优化以及与其他解决方案及服务的互操作性。因此，安全常常退居次席，只满足最低限度的合规要求。

内含超 100 万小时多语种录音，MLCommons 推出大型音频数据集

这一名为 the Unsupervised People's Speech 的数据集资源来自 Archive.org，整体规模超 48 TB，大部分内容属于美式英语。

UC伯克利等提出具身智能「动作Tokenizer」，效率飙升5倍！

来自π，伯克利和斯坦福的研究者近期提出了FAST，一种为VLA模型设计的高效动作Tokenizer。 FAST旨在解决传统动作Tokenization方法在处理精细任务时面临的挑战，为VLA模型在更复杂、高频的机器人控制任务带来了显著改进。将FAST与π0 VLA结合，在1万小时的机器人数据上对π0-FAST进行训练，效果与最先进的扩散VLA相当，训练时间最多缩短5倍。

中文互联网语料 AI 资源平台发布：27 个数据集、总量 2.7T

中国网络空间安全协会于 1 月 9 日发布公告，面向社会发布中文互联网语料资源平台，支持行业领域、内容模态、体量规模等多种标签分类，便于用户下载与使用。

PyTorch Geometric框架下图神经网络的可解释性机制：原理、实现与评估

在机器学习领域存在一个普遍的认知误区，即可解释性与准确性存在对立关系。这种观点认为可解释模型在复杂度上存在固有限制，因此无法达到最优性能水平，神经网络之所以能够在各个领域占据主导地位，正是因为其超越了人类可理解的范畴。其实这种观点存在根本性的谬误。

表格处理神器登上Nature！开箱即用，平均2.8s解读任意表格

电子表格也迎来了自己的ChatGPT时刻。就在这两天，一个名为TabPFN的表格处理模型登上Nature，随后在数据科学领域引发热烈讨论。图片据论文介绍，TabPFN专为小型表格而生，在数据集样本量不超过10,000时性能达到新SOTA。

五部门：加快构建国资央企大数据体系，支持企业开发高质量数据集

国家数据局、中央网信办、工业和信息化部、公安部、国务院国资委 12 月 25 日发布《关于促进企业数据资源开发利用的意见》。

麻省理工研究人员提高机器学习模型准确性

机器学习（ML）有可能通过利用大量数据进行预测洞察来改变医疗决策。然而，当这些模型在不能充分代表所有人口群体的数据集上进行训练时，就会出现一个严重挑战。预测疾病患者治疗计划的模型可以在主要包含男性患者的数据集上进行训练。

LANL将中子星并合用于人工智能训练模型

美国洛斯阿拉莫斯国家实验室（LANL）开发的中子星并合模拟正在为Polymathic AI合作项目做出重要贡献，该项目正在训练人工智能模型，以帮助推动看似不同领域的科学发现。这些模拟准确地跟踪了宇宙中一些最具活力的事件的后果，为基础模型数据集提供了独特的代码，可以帮助训练人工智能模型，使其能够做出与天体物理学、生物学、声学、化学、流体动力学等领域相关的预测。中子星并合是指两个中子星互相绕转，释放引力波，轨道能量损失，最终在剧烈碰撞、释放引力波暴之后合二为一。

终于把机器学习中的交叉验证搞懂了！！

交叉验证是一种评估机器学习模型性能的方法，用于衡量机器学习模型的泛化能力（即在未见数据上的表现）。它通过将数据集分成多个部分，交替使用不同的部分作为训练集和测试集，从而充分利用数据、避免过拟合或欠拟合，并更准确地评估模型的泛化能力。核心思想数据划分：将数据集划分为训练集和测试集。

全自动组装家具！斯坦福发布IKEA Video Manuals数据集：首次实现「组装指令」真实场景4D对齐

随着人工智能技术的快速发展，让机器理解并执行复杂的空间任务成为一个重要研究方向。在复杂的3D结构组装中，理解和执行说明书是一个多层次的挑战：从高层的任务规划，到中层的视觉对应，再到底层的动作执行，每一步都需要精确的空间理解能力。斯坦福Vision Lab最新推出的IKEA Video Manuals数据集，首次实现了组装指令在真实场景中的4D对齐，为研究这一复杂问题提供了重要基准。

为大模型提供全新科学复杂问答基准与测评体系，UNSW、阿贡、芝加哥大学等多家机构联合推出SciQAG框架

编辑 | ScienceAI问答（QA）数据集在推动自然语言处理（NLP）研究发挥着至关重要的作用。高质量QA数据集不仅可以用于微调模型，也可以有效评估大语言模型（LLM）的能力，尤其是针对科学知识的理解和推理能力。尽管当前已有许多科学QA数据集，涵盖了医学、化学、生物等领域，但这些数据集仍存在一些不足。其一，数据形式较为单一，大多数为多项选择题（multiple-choice questions），它们易于进行评估，但限制了模型的答案选择范围，无法充分测试模型的科学问题解答能力。相比之下，开放式问答(openQA

上海AI实验室开源发布高质量语料“万卷CC”

近日，上海人工智能实验室（上海AI实验室）发布新一代高质量大模型预训练语料“万卷CC”（WanJuan-CC），首批开源的语料覆盖过去十年互联网上的公开内容，包含1千亿字符（100B token），约400GB的高质量英文数据。作为“大模型语料数据联盟”今年首发的开源语料，WanJuan-CC将为学界和业界提供大规模、高质量的数据支撑，助力构建更智能可靠的AI大模型。预训练数据的质量对大模型整体性能至关重要。