弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

编辑 | 紫罗化学反应是药物设计和有机化学研究的基础。研究界越来越需要一种能够有效捕获化学反应基本规则的大规模深度学习框架。近日,来自北京大学和望石智慧的研究团队提出了一种新方法来弥合基于反应的分子预训练和生成任务之间的差距。受有机化学机制的启发,研究人员开发了一个新的预训练框架,使其能够将归纳偏差纳入模型中。所提框架在执行具有挑战性的下游任务中取得了最先进的结果。通过掌握化学知识,生成框架克服了当前依赖少量反应模板的分子生成模型的局限性。在大量的实验中,模型生成了高质量的可合成药物样结构。总的来说,该研究向各种基

弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

编辑 | 紫罗

化学反应是药物设计和有机化学研究的基础。研究界越来越需要一种能够有效捕获化学反应基本规则的大规模深度学习框架。

近日,来自北京大学和望石智慧的研究团队提出了一种新方法来弥合基于反应的分子预训练和生成任务之间的差距。

受有机化学机制的启发,研究人员开发了一个新的预训练框架,使其能够将归纳偏差纳入模型中。所提框架在执行具有挑战性的下游任务中取得了最先进的结果。通过掌握化学知识,生成框架克服了当前依赖少量反应模板的分子生成模型的局限性。在大量的实验中,模型生成了高质量的可合成药物样结构。

总的来说,该研究向各种基于反应的应用程序的大规模深度学习框架迈出了重要一步。

该研究以《Bridging the gap between chemical reaction pretraining and conditional molecule generation with a unified model》为题,于 2023 年 12 月 5 日发布在《Nature Machine Intelligence》上。

弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

论文链接:https://www.nature.com/articles/s42256-023-00764-9

深度学习模型已在众多科学研究领域得到应用。预训练框架有助于新任务的无缝集成,从而加快建模过程,特别是对于标记数据有限的场景。

化学反应是药物设计和有机化学研究的基础。目前,数据挖掘研究和应用已经使深度学习模型能够应用于化学反应。基于这些数据,已经有许多数据驱动的研究深入研究化学反应的表征学习。

表征学习是指从数据中自动学习有用的特征,然后将其用于各种下游任务。现有方法忽略了有机化学的基本理论,限制了其性能。

基于化学反应的分子生成

除了反应分类任务之外,基于化学反应的分子生成也是一个重要的应用。早期的研究总是采用基于模板的逐步分子生成策略。

这些基于模板的方法在很大程度上依赖于预定义的构建模块和反应,这缩小了可访问的化学空间。在反应产物预测领域也发现了类似的趋势,其中基于模板的方法不能外推到复杂的反应;这个问题可以通过使用无模板方法来解决。

在基于反应的分子生成任务中,无模板方法也表现出了优于基于模板方法的泛化优势。然而,现有的无模板分子生成方法只能基于预定义的反应物库生成分子。除此之外,对于药物设计中的先导化合物或先导化合物优化阶段,利用化学反应作为编辑工具来修改给定的结构是更有利的。生成的化学库将重点关注可以用更少的反应步骤合成的化学空间的子集。

一个新、全面的化学反应深度学习框架

在此,研究人员提出了一个新的、全面的化学反应深度学习框架,称为 Uni-RXN。旨在解决两个基本任务:自监督表征学习和条件生成建模。

弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

图示:Uni-RXN 的组成和方法。(来源:论文)

与现有方法不同,研究人员提出了一套专门针对化学反应精心设计的自监督任务。这些任务包括反应中心预测、主反应物与子反应物配对以及反应物-产物配对。在对具有挑战性的反应任务的广泛评估中,Uni-RXN 方法超越了最先进的水平,证明了其有效捕获化学反应领域知识的能力。所获得的有希望的结果为广泛的下游应用铺平了道路。

通过有效捕获化学规则,Uni-RXN 非常适合生成任务。与依赖于从预定义反应物库中选择片段的传统方法不同,Uni-RXN 将分子结构作为输入条件并生成相应反应物的表示,同时保持反应内的排列不变性。利用密集向量相似性搜索包的强大功能,Uni-RXN 能够从大型反应物和试剂库中高效检索反应物。随后,采用反应预测模型来生成产物输出。

与仅探索化学空间的有限子集的基于模板的方法相比,Uni-RXN 在生成更广泛的可合成药物样结构方面表现出卓越的性能。这一特点使其特别适合虚拟 library 枚举,并得到全面统计分析和案例研究的支持。

Uni-RXN 方法具有多种优势,能够为具有挑战性的化学反应分类任务派生丰富的表示。Uni-RXN 大幅优于其他基线模型,在每类仅提供 4 个数据点的情况下实现了 58.7% 的准确率。

表 1:化学反应分类的准确度。(来源:论文)

弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

Transformer 模型还可以应用于区分化学反应数据中的优化反应和未优化反应。此外,编码器可以毫不费力地应用于结构条件生成。

弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

图示:Uni-RXN 的检索性能和注意力权重。(来源:论文)

实验结果强调了所提模型生成的分子的有利特性,使它们非常适合药物发现任务。该模型能够生成具有更多类似药物特性和可合成可及性的分子。

弥合化学反应预训练和条件分子生成之间的差距,北大「统一」模型

图示:Uni-RXNGen 流程与性能。(来源:论文)

与分子对接等虚拟筛选方法相结合,该生成模型可以实现高效的构效关系研究。该模型生成的巨大的可合成类药物化学空间可以提高药物再利用或命中分子搜索的真阳性率。

相关资讯

一键生成PPT!Kimi :让「PPT民工」先浪起来

Kimi:一句话,十几秒钟,一份PPT就新鲜出炉了。PPT 这玩意儿,可太招人烦了!开个碰头会,要有 PPT;写个周报,要做 PPT;拉个投资,要展示 PPT;就连控诉出轨,都得发个 PPT。大学更像是学了个 PPT 专业,上课看 PPT,下课做 PPT。或许,37 年前丹尼斯・奥斯汀发明 PPT 时也没想到,有一天 PPT 竟如此泛滥成灾。吗喽们做 PPT 的苦逼经历,说起来都是泪。「一份二十多页的 PPT 花了三个月,改了几十遍,看到 PPT 都想吐」;「最巅峰的时候,一天做了五个 PPT,连呼吸都是 PPT」

腾讯智影小程序上线 AI 视频功能,限时免费一键生成风格化视频

感谢腾讯智影小程序上线了智影 AI 视频功能,可以一键生成风格化视频,目前有日漫风格可选,此功能限时免费(未公布收费价格)。视频风格化就是在原视频的基础上进行风格化处理,官方称风格化视频可以提升视频美感、增强趣味性、提升传播力。▲ 左为原视频、右为风格化视频只需导入视频并一键“变身”,就能快速生成风格化视频(支持 10s 视频),智影 AI 提供了多种模板,让视频更加多样化。▲ 智影 AI 提供的模板据AI在线此前报道,腾讯智影上线于 2023 年 3 月,是一款集成了 AI 创作能力的智能创作工具,提供虚拟数字人

找不到合适的数据分析报告模板?AIGC帮你定制!

1.思维导图在报告中的多重用途思维导图在数据分析报告中发挥着多种关键作用。 业务需求澄清和目标确定:在进行数据分析之前,思维导图可用于清晰展示和澄清各个业务需求之间的联系,以确保在分析过程中不遗漏任何重要方面。 同时,借助思维导图,数据分析师能够明晰分析的范围和目标,更有针对性地进行数据收集和分析。