理论

序列建模的进展具有极大的影响力，因为它们在广泛的应用中发挥着重要作用，包括加强进修（例如，机器人和自动驾驶）、光阴序列分类（例如，金融欺诈检测和医学诊断）等。在过去的几年里，Transformer 的出现标志着序列建模中的一个重大突破，这主要得益于 Transformer 提供了一种能够利用 GPU 并行处理的高性能架构。然而，Transformer 在推理时较量争论开销很大，主要在于内存和较量争…

编辑 | 紫罗药物-靶点相互作用（DTI）猜测在药物发现中发挥着重要作用。尽管药物靶点猜测的智能计算法子受到了广泛关注，并取得了许多进展，但仍然是一项具有挑战性的任务，需要进一步的钻研。为了解决上述挑战，江南大学钻研团队提出了一种集成深度进修和图进修的多视图集成进修收集（MINDG）。MINDG 分离图进修和深度进修来提取药物和蛋白质的内涵构造信息，以及它们之间的外在关系信息。因此，与之前的法子相…

编辑 | 萝卜皮多药理学药物（可以同时按捺多种蛋白质的化合物）在治疗癌症等重大疾病方面有着重要应用，但非常难以安排。为了应对这一挑战，加州大学圣地亚哥分校的钻研职员开发了 POLYGON，这是一种基于生成强化学习的多药理学方法，可以模拟药物创造最早阶段所涉及的耗时化学过程。POLYGON 嵌入化学空间并对其进行迭代采样，从而生成新的份子结构；这些药物的回报是预期能够按捺两个蛋白质靶标中的每一个，并…

编辑 | 枯叶蝶近日，天津大学激光与光电子研讨所吴亮副教授、姚建铨院士团队联合自然语言处理实验室熊德意教授团队报道了一种使用多频次补偿输出的深度进修模型来增强光谱猜测成效的方案。该方案可无效地提高现有光学数据集的利用率，在不额外增加训练成本的基础上，增强了与超外表结构对应的光谱响应的猜测成效。有关研讨成果以「Enhanced spectrum prediction using deep learn…

编辑 | 绿罗了解湍流平流粒子的统计和几何特点是一个拥有挑战性的问题，对于许多应用的建模、预测和控制至关重要。例如燃烧、工业混合、污染物分散、量子流体、原行星盘吸积和云形成等。尽管过去 30 年在理论、数值和试验方面做出了很多努力，但现有模型还不能很好地再现湍流中粒子轨迹所表现出的统计和拓扑特点。近日，意大利罗马第二大学（University of Rome Tor Vergata）的研究人员，提…

编辑 | X美国东北大学的计算机科学家 David Bau 非常熟悉这样一个想法：计算机系统变得如此复杂，以至于很难跟踪它们的运行体例。「我做了 20 年的软件工程师，钻研非常复杂的系统。这个课题总是存在的。」Bau 说。但 Bau 说，使用传统软件，具有内部知识的人通常可以推断出发生了什么。例如，如果一个网站在谷歌搜索中的排名下降，在谷歌工作了十几年的 Bau，会很清楚原因。他说，当前的人工智能…

编辑 | ScienceAI科学家要被替代了？由六个主动化实验室组成的全球联盟，在人工智能 (AI) 的监督下，着手生产新型激光资料，将歇息从分解到尝试分开。来自多伦多大学、伊利诺伊大学厄巴纳-香槟分校、不列颠哥伦比亚大学、波兰科学院等组成的 33 位科学家合作，提出了一种基于云的策略，该策略支持非本地化和异步的设计-制造-尝试-分析周期。该研讨共产生了 621 种新化合物，创造了 21 种最先进…

作者 | 刘铁岩正处于起步阶段的AI for Science被认为是迷信发觉的第五范式。尽管目前对于AI for Science的定义和钻研方向仍有诸多讨论，但这并不妨碍AI for Science已经开始在迷信发觉的实践中取得令人瞩目的成果。近年来，微软钻研院迷信智能中心杰出首席迷信家刘铁岩博士和他的团队致力于推动AI for Science的发展和应用。在这篇署名文章中，刘铁岩博士将分享他对人…

编辑 | 白菜叶「提出一个假想——一个被怀疑为真的命题，但需求明确的注明——对数学家来说就像是神圣灵感的时刻。数学假想不仅仅是有根据的猜测。制定它们需求天才、直观和经验的结合。即使是数学家也很难解释自己的发觉过程。然而，与直观相反，我认为这是机械智能最初最具变革性的范围。」英国伦敦数学科学研讨所所长 Thomas Fink 说。2017 年，伦敦数学科学研讨所的研讨职员开始将机械学习应用于数学数据…

编辑 | 萝卜芯预训练语言模型在阐发核苷酸序列方面显示出了良好的前景，但应用单个预训练权重集在不同工作中表现出色的多功能模型仍然存在挑战。百度大数据实验室（Big Data Lab，BDL）和上海交通大学团队开发了 RNAErnie，一种基于 Transformer 架构，以 RNA 为中心的预训练模型。钻研人员用七个数据集和五个工作评价了模型，证明了 RNAErnie 在监视和无监视学习方面的优…

2023 年可以说是大模型元年，借着大模型的东风，向量数据库也迎来了大爆发，被带到了更高的关注度上。一方面，向量数据库和 RAG 得到广泛的关注和认可，是因为他们的确可以解决一些短期内大模型无法攻克的难题，比如模型幻觉题目等。同时，在尝试用向量数据库和 RAG 做场景落地的时候，效果也还不错。不过另一方面，我们也无法回避对他们普遍的困惑与争议，比如向量数据库是否已经凉了，以及如今势头正盛的 RAG…

编辑 | X人工智能（AI）在过去几年中以惊人的速率进展。一些科学家现在正着眼于超级人工智能（Artificial Superintelligence，ASI）的进展，这是一种不仅超越人类智能，而且不受人类学习速率限制的 AI。但如果这个里程碑不单单是一项了不起的成就呢？如果它也代表了所有野蛮进展的一个巨大瓶颈，一个如此具有挑战性的瓶颈，以至于阻碍了它们的长期生存，该怎么办？AI 是否会成为宇宙的…

编辑 | 紫罗近年来，深度进修技术在份子微观构造猜测中取得了巨大的进展。然而，份子的宏观属性和功能往往取决于份子构造在平均态下的分散，仅了解份子的微观构造还远远不够。获得这些分散的传统步骤，如份子动力学模仿，但这些步骤昂贵又耗时。在此，来自微软研讨院科学智能中心（Microsoft Research AI4Science）的研讨职员，提出了一种可用于猜测份子构造平均分散的深度进修框架，称为分散式图…

全国模型，即通过预计未来的范式对数字全国和物理全国举行理解，是通往实现通用人工智能（AGI）的关键路径之一。在视频生成规模，OpenAI 发布的 Sora 引起了广泛关注，Sora 具有极强的仿真威力，可以展现出对物理全国的初步理解；视频生成领军企业 Runway 在技术博客中表示，文生视频系统 Gen-2 的下一代产品将会通过通用全国模型来实现。在主动驾驭规模，Tesla 和 Wayve 均表示…

编辑 | 白菜叶了解配体-靶标对的份子间相互作用是指导优化癌症药物钻研的关键，这可以大大减轻湿实验室的负担。当前计算法子存在一些缺陷，限制了它们的实际应用。在这里，哈尔滨工业大学的钻研职员在此提出了 DrugMGR，这是一种深度多粒度药物表示模型，能够展望每个配体-靶标对的分离亲和力和地区。通过对配体复杂的自然体制和蛋白质高级特点的多粒度表示进修，DrugMGR 几乎在所有数据集上都显著优于当前最…

编辑 | 萝卜皮「如果这可以重现的话，这就是我们所知的世界末日！功能建模的新时代已经开始。」欧洲分子生物学实验室（EMBL）的科学家 Jan Kosinski 发推文表示。他在 AlphaFold 3 发布后，立刻用它做了一系列简单的尝试，并把有关结果发在了 X 上。「我取出了一个构造未知的转录因子，将其折叠起来，将其辨认序列嵌入更长的 DNA 中。AlphaFold 3 准确定位了转录因子。」K…

一、简要介绍 本文简要介绍了论文“System 2 Attention (is something you might need too) ”的相干工作。基于transformer的大语言模型（LLM）中的软留神很容易将上下文中的不相干信息合并到其潜在的表征中，这将对下一token的生成产生不利影响。为了帮助纠正这些成绩，论文引入了System 2 Attention（S2A），它利用LLM的能力…

编辑 | 紫罗在今年的 ICLR 会议上，共评选出 5 篇杰出论文奖以及 11 篇荣誉提名。纽约大学和基因泰克（Genentech）合作发表的一篇关于蛋白质计划的钻研论文获得杰出论文奖。这篇论文解决了鉴于序列的抗体计划成绩，这是蛋白质序列生成模型的一个及时而重要的应用。为此，钻研职员引入了一种创新而有效的新建模法子——失散「步行-跳跃」采样（Discrete Walk-Jump Sampling，…

编辑 | 紫罗一立方毫米的脑组织听起来可能并不多。但这个小方块包含 57,000 个细胞、230 毫米的血管和 1.5 亿个突触，总计 1,400 TB 的数据，哈佛大学和google的研讨职员刚刚完成了一项巨大的成就。研讨职员共同创建了迄今为止最大的突触分辨率、3D 重修的人类大脑片段，以生动的细节展示了一块大约半米粒大小的人类颞叶皮层中的每个细胞及其神经毗连网络。这是哈佛大学与google科学…

编辑 | 绿罗抗生素将人类平均寿命至少提高了十年以上。但抗生素的作用已不如以前，部分原因是抗生素的广泛应用。「世界各地的卫生机构一致认为，我们正在进入后抗生素时代，」克利夫兰诊所（Cleveland Clinic）医学博士 Jacob Scott 注释道。「如果我们不改变追踪细菌的方式，到 2050 年，死于抗生素耐药性感化的人数将超过死于癌症的人数。」克利夫兰诊所的钻研人员开发了一种人工智能 (…

编辑 | X量子胶葛是量子计算的核心资源。将胶葛集成到量子机械进修（QML）模型的丈量中，导致训练数据巨细大幅减少，超过指定的展望缺点阈值。然而，对数据胶葛度如何作用模型功能的分析理解仍然难以捉摸。在此，来自武汉大学、北京大学、南洋理工大学和悉尼大学的研讨团队，通过建立量子「没有免费的午饭」 (no-free-lunch，NFL) 定理来解决这一知识差距。与之前的发现相反，研讨证明胶葛数据对展望缺…

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]多模态融会是多模态智能中的基础恣意之一。多模态融会的动机在于共同利用…

编纂 | ScienceAI在基因组编纂领域，单碱基编纂器通过将可编程的DNA结合蛋白与碱基修饰酶融合，实现在不引起DNA双链断裂的情况下，对基因组中特定碱基进行精确修改。尽管依赖于胞嘧啶（C）碱基编纂器（CBE）或腺嘌呤（A）碱基编纂器（ABE）介导的脱氨反应，这些编纂器可能实现C到胸腺嘧啶（T）或A到鸟嘌呤（G）的渐变，但它们在引诱所有类型的点渐变，尤其是颠换渐变方面仍存在局限性。近期，西湖大…

编辑 | 萝卜皮各种复杂的调理利用给人工智能带来了巨大挑战：需要先进的推理、获取最新的医学知识以及对复杂的多模态数据的理解。Gemini 模型在多模态和长上下文推理方面具有强大的通用本领，为 AI 在医学领域利用提供了可能性。鉴于 Gemini 的核心优势，谷歌的研讨职员推出了 Med-Gemini，这是一个功能强大的多模态模型系列，专门用于医学，能够无缝运用网络搜寻，并且可以运用自定义编码器有效…