采样

Mitchell Stern 等人于 2018 年提出了投机采样的原型概念。这种方法后来被各种工作进一步发展和完善，包括 Lookahead Decoding、REST、Medusa 和 EAGLE，投机采样显著加快了大型语言模型 (LLM) 的推理过程。一个重要的问题是：LLM 中的投机采样会损害原始模型的准确性吗？先说答案：不会。标准的投机采样算法是无损的，本文将通过数学分析和实验来证明这一点…

继去年初的第一代 VALL-E 模型之后，微软最近又上新了 VALL-E 2 模型，标志着第一个在合成语音稳健性、相似度、自然程度等方面达到人类水平的文本到语音模型。最近，微软发布了零样本的文本到语音（TTS）模型 VALLE-2，首次实现了与人类同等的水平，可以说是 TTS 领域里程碑式的进展。论文地址：，用录音室环境下的干净单人语音训练模型，已经可以达到人类同等水平的质量，但零样本 TTS 依…

编辑 | 萝卜皮深度学习方法推动了生物分子结构单态预测的重大进展。然而，生物分子的功能取决于它们可以呈现的构象范围。对于肽来说尤其如此，肽是一类高度灵活的分子，参与多种生物过程，作为治疗手段备受关注。多伦多大学的 Philip M. Kim 和 Osama Abdin 开发了 PepFlow，这是一种可转移生成模型，它能够从输入肽的允许构象空间中直接进行全原子采样。研究人员在扩散框架中训练模型，然…

编辑 | 紫罗近年来，深度进修技术在份子微观构造猜测中取得了巨大的进展。然而，份子的宏观属性和功能往往取决于份子构造在平均态下的分散，仅了解份子的微观构造还远远不够。获得这些分散的传统步骤，如份子动力学模仿，但这些步骤昂贵又耗时。在此，来自微软研讨院科学智能中心（Microsoft Research AI4Science）的研讨职员，提出了一种可用于猜测份子构造平均分散的深度进修框架，称为分散式图…

过去几年来，散布模型强大的图象合成能力已经得到充分证明。研究社区现在正在攻克一个更困难的任务：视频生成。近日，OpenAI 安全系统（Safety Systems）负责人 Lilian Weng 写了一篇关于视频生成的散布模型的博客。                              Lilian Weng机器之心对这篇博客进行了不改变原意的编译、整理，以下是博客原文：视频生成任务本身是图…

编辑 | 萝卜皮具备高信噪比的荧光成像已成为生物现象精确可视化和分析的基础。然而，不可避免的噪声对成像灵敏度提出了巨大的挑战。清华大学的研讨团队提供了空间冗余去噪 Transformer（SRDTrans），以自监视的方式去除荧光图象中的噪声。该团队提出了基于空间冗余的采样计谋来提取相邻的正交训练对，消除了对高成像速率的依赖。然后，他们设计了一种轻量级时空 Transformer 架构，以较低的计…

编辑 | 萝卜皮三十亿年的退化已经产生了极其多样化的蛋白质份子，但蛋白质的全部潜力可能要大得多。挖掘这种潜力对于较量争论和实行来说都是一个挑战，因为可能存在的蛋白质份子的空间，比那些可能具有功效的空间大得多。美国 Generate Biomedicines 的研究团队介绍了 Chroma，一种蛋白质和蛋白质复合物的生成模型，可以直接对新的蛋白质构造和序列从事采样，并且可以从事调节以引导生成进程实行…

AFF 在小物体识别上向前再迈一步。

来自 Facebook AI 的严志程团队发表一种新的神经架构的快速搜刮算法。该算法接纳自顺应架构几率漫衍熵的架构采样，能够减少采样样本达 60%，减速搜刮快 1.8 倍。此外，该算法还包括一种新的基于分析几率漫衍的由粗到细的搜刮策略，进一步减速搜刮快达 1.2 倍。该算法搜刮性能优于 BigNAS、EfficientNet 和 FBNetV2 等算法。就职于 Facebook AI 的严志程博士…