Google DeepMind

昨晚，世界模型向前迈出了一大步！ Google DeepMind 震撼宣布了他们的新一代世界模型 Genie 2，其可根据一张图生成可供人类或 AI 智能体游玩的无限 3D 世界。 消息发布后，好评与震惊如潮水般涌现。

开源数据库引擎 SQLite 有 bug，还是智能体检测出来的！ 通常，软件开发团队会在软件发布之前发现软件中的漏洞，让攻击者没有破坏的余地。 模糊测试 （Fuzzing）是一种常见的软件测试方法，其核心思想是将自动或半自动生成的随机数据输入到一个程序中，并监视程序异常。

「当一家人工智能公司的首席执行官更像是计算机科学家而不是推销员时，我感觉更舒服」。对于 DeepMind 来说，2023 是充满变化的一年。这年的 4 月份，谷歌宣布将 Google Brain 和 DeepMind 进行合并，成立名为 Google DeepMind 的新部门。新部门将在保持道德标准的同时，引领突破性的 AI 产品研究和进步。Google Brain 和 DeepMind——一个…

释放进一步扩展 Transformer 的潜力，同时还可以保持计算效率。标准 Transformer 架构中的前馈（FFW）层会随着隐藏层宽度的增加而导致计算成本和激活内存的线性增加。在大语言模型（LLM）体量不断增大的现在，稀疏混合专家（MoE）架构已成为解决此问题的可行方法，它将模型大小与计算成本分离开来。很多新兴的 MoE 模型都可以实现相同体量之上，更好的性能与更强大的表现。最近发现的细粒…

最近的一系列研究表明，纯解码器生成模型可以通过训练哄骗下一个 token 预测生成有用的表征，从而成功地生成多种模态（如音频、图像或状态 - 动作序列）的新序列，从文本、蛋白质、音频到图像，甚至是状态序列。能够同时生成多种模态输入的多模态模型一般是通过某种形式的辞汇扩大（将多模态表征转换为离散 token 并添加到模型的基本辞汇表中）来实现的，即在预训练阶段或在后期微调阶段从事跨模态对齐。多模态预…

在线和离线对齐算法的本能差别根源何在？DeepMind实证剖析出炉在 AI 对齐问题上，在线方法似乎总是优于离线方法，但为什么会这样呢？近日，Google DeepMind 一篇论文试图通过基于假如验证的实证钻研给出解答。论文标题：Understanding the performance gap between online and offline alignment algorithms论文地…

引入混合深度，DeepMind 新设计可大幅提升 Transformer 效率。Transformer 的重要性无需多言，目前也有很多研究团队致力于改进这种变革性技术，其中一个重要的改进方向是提升 Transformer 的效率，比如让其具备自适应盘算能力，从而可以节省下不必要的盘算。正如不久前 Transformer 架构的提出之一、NEAR Protocol 联合创始人 Illiya Polo…

如果足球战略都是 AI 设计的，那很难想象其他事情有什么不可以。足球界最炙手可热的年轻锻练既不是勒沃库森的阿隆索、兰斯的斯蒂尔，也不是博洛尼亚的莫塔，它能够是个 AI，来自google DeepMind。球迷朋友们能够还记得，利物浦在 2019 年 5 月 8 日欧洲冠军联赛半决赛中实现的历史性翻盘。其中最具标志性的时刻是下半场阿诺德出其不意的角球，奥里吉打进了利物浦能够是历史上最伟大的进球。在那…

在 AI 智能体这个领域，google DeepMind 又有了一项里程碑式研讨。视频游玩是 AI 体系的重要试验场。与现实全国一样，游玩也是丰富的进修情况，具有反应灵敏的实时设置和不断变化的目标。从早期与雅达利游玩的合作，到人类大师级水平的《星际争霸 II》体系 AlphaStar，google DeepMind 在人工智能和游玩领域陆续推出过不少影响力研讨。刚刚，google宣布了又一项里程碑…

智能本质、对齐、Gemini、超人类AI和多模态、AGI……在这场干货满满的访谈中，Demis Hassabis可谓「知无不言、言无不尽」。「如果我们在未来十年内拥有类似 AGI 的体系，我不会感到惊讶。」Google DeepMind 联合创始人和 CEO Demis Hassabis 近日在人工智能播客节目 Dwarkesh Podcast 上如是说。在长达一个小时的节目中，Hassabis …

一键生成可玩游玩天下。问世才两个星期，google的天下模型也来了，能力看起来更强大：它生成的虚拟天下「自主可控」。刚刚，google定义了生成式 AI 的全新范式 —— 生成式交互情况（Genie，Generative Interactive Environments）。Genie 是一个 110 亿参数的基础天下模型，可以通过单张图象提示生成可玩的交互式情况。我们可以用它从未见过的图象进行提示…

可以想象，不断进化的双臂机器人未来将最大程度地「解放」人的双手。2023 年，斯坦福大学等机构推出了一个用于双机械手长途操纵的低成本开源硬件零碎 ALOHA，它可以长途操纵并完成组装链条、托举乒乓球等复杂、丰富的任意。今年 1 月，google DeepMind 与斯坦福又联合推出了 Mobile ALOHA，同样可以进行长途操纵并模仿双手操纵，通过移动底座在大的空间范围内实现长途操纵。这样一来，…

具身智能，首先就是要共用 AI。过去一年，生成式人工智能发展的核心关键词，就是「大」。人们逐渐接受了强化进修先驱 Rich Sutton 充分利用算力「大力出奇迹」的思潮，庞大的数据量是 AI 模型展现出惊人智慧的核心原因。数据规模越大、质量越高、标注越细，模型就能了解到更全面的世界知识，从而拟合出更加智能的结果。那么，为什么人工智能的进展还没有转化成科幻片中那种全能管家呆板人呢？能清理桌子、叠衣…

这项工作代表了 AI 在数学推理上的威力突破，是开发通用 AI 体系方面的重要里程碑。这一次，人工智能算法在数学奥林匹克比赛（IMO）上取得了重大成绩突破。在今天发表的国际权威期刊《自然》杂志最新一期上，论文《Solving olympiad geometry without human demonstrations》向世人介绍了 AlphaGeometry，专家表示，这是人工智能朝着具有人类推理…

过去一年中，连连取得突破的大模型正在重塑机器人研讨领域。在最先进的大模型成为具身机器人感知世界的「大脑」之后，机器人的进化速率取得了远超想象的进步。7 月，google DeepMind 宣布推出 RT-2：全球第一个节制机器人的视觉 - 说话 - 举动（VLA）模型。只须要向对话一样下达命令，它就能在一堆图片中辨认出霉霉，送给她一罐「快乐水」。甚至能主动思考，完毕了从「选择灭绝的动物」到抓取桌子…

风险有点大。如果我不停地让 ChatGPT 干一件事，直到把它「逼疯」会发生什么？它会间接口吐训练数据出来，有时候还带点个人信息，职位手机号什么的：本周三，Google DeepMind 发布的一篇论文，介绍了一项让人颇感意外的钻研成果：应用大约 200 美元的成本就能从 ChatGPT 保守出几 MB 的训练数据。而应用的步骤也很简单，只需让 ChatGPT 反复同一个词即可。一时间，社交网络上…

性能优于规模更大的模型。多模态进修面临的主要挑战之一是需要融合文本、音频、视频等异构的模态，多模态模型需要拉拢不同来源的旌旗灯号。然而，这些模态具有不同的特性，很难通过单一模型来拉拢。例如，视频和文本具有不同的采样率。最近，来自 Google DeepMind 的钻研团队将多模态模型解耦成多个独立的、专门的自返回模型，根据各种模态的特性来处置惩罚输出。具体来说，该钻研提出了多模态模型 Miraso…