理论

美国当选总统唐纳德·特朗普在总统竞选期间做出了很多雄心勃勃的承诺，但他很难兑现所有的承诺。 他对人工智能（AI）的立场在很大程度上与他对“美国优先”政策的承诺相一致，该政策侧重于经济增长、能源独立和尽量减少对国内产业的监管。 然而，由于缺乏具体的联邦指导方针，新政府将如何为人工智能制定一个连贯的战略仍存在悬而未决的问题。

编辑 | KX蛋白质结构预测领域正处于发展的黄金时代。 生物技术研究在很大程度上依赖于发现正确的蛋白质结构来执行所需的任务，这对几乎所有生物技术领域都有影响，从食品到药品、从时尚到生物燃料、从洗衣粉到农业......AlphaFold 已经彻底改变了蛋白质结构预测，使单链和复杂蛋白质组装的建模成为可能。 然而，它需要大量计算并且耗时。

环境生成模型（generative models of environments），也可以叫世界模型（world model），在「通用智能体规划」和「推理环境」中的关键组成部分，相比传统强化学习采样效率更高。 但世界模型主要操作一系列离散潜在变量（discrete latent variables）以模拟环境动态，但这种压缩紧凑的离散表征有可能会忽略那些在强化学习中很重要的视觉细节。 日内瓦大学…

最近，OpenAI在官网上发布了一篇学生写作指南。 指南的开头写道：如果使用得当，ChatGPT可以成为一个强大的工具，帮助学生培养严谨思维和清晰写作的技能，协助他们思考创意、掌握复杂概念并得到写作草稿的反馈。 然而，也有一些使用ChatGPT的方式会适得其反——比如生成一篇文章而不是自己写。

黎曼猜想，竟被Grok 3「证明」了？ 为此，xAI暂停了Grok 3的训练来验证它的证明，如果结果是正确的，将会完全终止模型的训练。 xAI工程师Hieu Pham在社交媒体的最新「爆料」，成为AI圈最火爆的话题。

编辑 | 星璇本周是国际反诈骗宣传周，一位名为“黛西”的老奶奶跟电话诈骗犯斗智斗勇的故事冲上了热搜。 英国电信巨头Virgin Media的移动运营商部门O2表示，该公司已开发出一种类人AI老奶奶，能够实时接听诈骗电话，通过假装自己是潜在的易受骗对象让诈骗者一直在电话中忙个不停，从而浪费他们的时间，逼真程度可以让诈骗分子40分钟都发现不了。 图源：TechCrunch据称，这种名为“黛西”（Dai…

曾经参与缔造了改变世界的ChatGPT大牛们，如今却纷纷自立门户。 此前，早有BI的报道汇总了，出走OpenAI的19位研究人员。 经过半年多的「大换血」，这个数字最近增加到了23人。

生成式AI是一种强大的工具，有望为包括气候变化在内的诸多现实挑战提供创新解决方案。 一方面，它能够模拟复杂场景、优化资源并为环境问题提供创造性的解决方案，为未来勾勒出美好的愿景。 但在另一方面，生成式AI在本质上会消耗海量算力和电力资源，因此很可能进一步加剧气候问题。

把连续相同的图像块合并成一个token，就能让Transformer的视频处理速度大幅提升。 卡内基梅隆大学提出了视频大模型加速方法Run-Length Tokenization（RLT），被NeurIPS 2024选为Spotlight论文。 在精度几乎没有损失的前提下，RLT可以让模型训练和推理速度双双提升。

利用概念激活向量破解大模型的安全对齐，揭示LLM重要安全风险漏洞。 来自人大&港科大的研究人员提出安全概念激活向量（SCAV）框架，通过精确解读大模型的安全机制来指导攻击。 基于SCAV的攻击方法能够生成嵌入级和提示级的攻击，自动调整扰动参数，并显著提升了攻击成功率和响应质量。

4-bit量化，能让现有反学习/机器遗忘技术失灵！ 也就是大模型在人类要求下“假装”忘记了特定知识（版权、私人内容等），但有手段能让它重新“回忆”起来。 最近，来自宾夕法尼亚州立大学、哈佛大学、亚马逊团队的一项新研究在reddit、Hacker News上引起热议。

无论是面试找工作、还是自学创业，甚至想要在圈子内讨论一下AGI的潜力，但凡想要深度参与到AI浪潮中，不可避免的就是学习大型语言模型（LLM）的底层原理。 但AI发展这么多年，论文、学习资料多如牛毛，并且更新换代极快，如何快速入门，学习到那些真正的基础知识，对于新手来说都是一个难题。 最近，一位AI从业者在网上分享了自己的学习过程，仅用14天就学完了LLM所需要的核心知识，学习笔记在GitHub上斩…

就连「量化」也不管用，scaling law真的要终结了吗？ 一提scaling law，人们重点关注的是参数规模、数据量等因素，却忽视了「精度」这一关键变量。 哈佛斯坦福MIT等机构研究人员竟发现，低精度训练会降低模型的「有效参数量」！

在提升大型语言模型（LLM）在数学推理方面的能力时，一个常用的方法是训练一个奖励模型（reward model）或验证器（verifier），也可以利用强化学习在测试阶段（test-time）对所有解决方案进行重排序。 通常情况下，验证器的预测是整个推理过程的结果，即结果奖励模型（ORM，outcome reward models），但这种奖励信号过于稀疏，模型难以从中学习，并且搜索过程的效率也不…

LLM究竟是否拥有类似人类的符合理解和推理能力呢？ 许多认知科学家和机器学习研究人员，都会认为，LLM表现出类人（或「接近类人」）的语言能力。 然而，来自帕维亚大学、柏林洪堡大学、得克萨斯大学休斯顿健康科学中心、纽约大学、巴塞罗那自治大学的研究者却提供了一些最全面的证据，表明目前它们基本没有！

122天交付10万卡超算，神奇的「马斯克速度」，直接把竞争对手们整崩溃了！ 消息传出，整个行业都震惊不已。 就在今天，The Information甚至曝出内幕大瓜：有人甚至直接租飞机，直接飞到马斯克的数据中心上空侦查。

一、大模型时代下的数据安全与利用问题众所周知，大模型是当前研究的热点之一，且已成为当前发展的主流趋势。 我们团队最近的研究方向从传统的联邦学习转变为探索这一范式在大模型时代的新拓展，即基于知识迁移的联邦学习。 我们认为在大模型时代，这种新的联邦学习模式非常适用。

译者 | 李睿审校 | 重楼近年来，深度学习模型在自然语言处理（NLP）和计算机视觉基准测试中的性能稳步提高。 虽然这些收益的一部分来自架构和学习算法的改进，但数据集大小和模型参数的增长是重要的驱动因素。 下图显示了top-1 ImageNet分类精度作为GFLOPS的函数，GFLOPS可以用作模型复杂性的指标。

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]。

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]。

机器之心报道，编辑：Panda。

机器之心报道，编辑：泽南，亚鹂。

今年 5 月，一份网传 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 整理的一份机器学习研究文章清单火了。 网友称「Ilya 认为掌握了这些内容，你就了解了当前（人工智能领域） 90% 的重要内容。 」据说这份论文清单是 2020 年 OpenAI 的联合创始人、首席科学家 Ilya Sutskever 给另一位计算机领域大神，id Software 联合创始人，致力于转行 …

在AI和大型语言模型快速发展的背景下，安全不能再被视为事后的考虑。 随着这些技术成为企业运营不可或缺的一部分，实施强有力的安全措施至关重要，然而，AI的安全超越了传统的网络安全实践——它还必须涵盖伦理考量和负责任的AI原则。 本指南为IT从业人员和决策者提供了一种在AI和LLM架构中应用零信任原则的综合方法，强调从基础层面融入伦理考量。