编辑 | KX
份子形容符广泛应用于份子建模,但在 AI 辅助份子发现领域,缺乏自然适用、完整且「原始」的份子表征是一个挑战,影响 AI 模型的本能和可解释性。
在利用先进的自然语言处理(NLP)方法解决化学问题时,会出现两个基本问题:(1)什么是「化学词」?(2)如何将它们编码为「化学句子」?
近日,湖南大学研讨团队提出了一种灵活的、鉴于片断的多尺度份子表征框架 t-SMILES 的框架来解决第二个问题。
该框架利用 SMILES 类型的字符串形容份子,并且可以将鉴于序列的模型作为主要生成模型。t-SMILES 具有三种代码算法:TSSA、TSDY 和 TSID。
实行表明,t-SMILES 模型可以生成 100% 理论有用性且高度新颖的份子,优于鉴于 SOTA SMILES 的模型。
此外,无论模型是原始的、数据增强的还是预训练后微调的,它都可以避免过拟合,并在标记的低资源数据集上保持合理的相似性的同时获得更高的新颖性分数。
该研讨以「t-SMILES: a fragment-based molecular representation framework for de novo ligand design」为题,于 6 月 11 日发布在《Nature Communications》上。
论文链接:https://www.nature.com/articles/s41467-024-49388-6
鉴于 SMILES 的份子表征法研讨
份子的有用表征是影响人工智能模型本能的关键因素。
图神经网络(GNN)因其能生成 100% 有用的份子而流行,但其表达能力受限。
简化份子线性输入规范(SMILES)作为一种线性表示法,易产生化学无效字符串。DeepSMILES 和 SELFIES 作为替代方案虽有所改进,但仍存在问题。
此外,研讨表明语言模型 (LM) 在进修大型复杂份子方面可能优于大多数 GNN。最近,鉴于 Transformers 的 LM 已经展示了它们生成与人类书写极为相似的文本的能力。
受这些想法启发,研讨者选择 SMILES 作为片断形容的起始选择,并结合先进的自然语言处理技术来处理鉴于片断的份子建模任务,这可以融合图模型更注重份子拓扑结构和 LM 的强大进修能力的优势。
生成 100% 有用的新份子,优于 SOTA
因此,湖南大学团队提出了一种鉴于碎片化份子的新型份子形容框架 t-SMILES(鉴于树的 SMILES)。该框架包含三种 t-SMILES 编码算法:TSSA(具有共享原子的 t-SMILES),TSDY(具有虚拟原子但不具有 ID 的 t-SMILES)和 TSID(具有 ID 和虚拟原子的 t-SMILES)。
图示:t-SMILES 算法概述。(来源:论文)
新提出的 t-SMILES 框架首先生成一个无环份子树(Acyclic molecular tree,AMT),其作用是表示碎片化的份子。第二阶段将 AMT 转换为全二叉树(Full binary tree,FBT)。最后,对 FBT 进行广度优先遍历得到 t-SMILES 字符串。
与 SMILES 相比,t-SMILES 仅引入了两个新符号「&」和「^」,以编码多尺度和分层的份子拓扑。因此,t-SMILES 算法提供了一个可扩展且适应性强的框架,理论上能够支持广泛的子结构方案,只要它们生成化学上有用的片断并产生有用的 AMT。
此外,由于其多尺度和层次化表示,鉴于 t-SMILES 的模型能够在处理详细的子结构信息的同时进修高级拓扑结构信息。
值得注意的是,t-SMILES 算法可以构建一个用于份子形容的多代码系统。在这个系统中,经典的 SMILES 可以作为 t-SMILES 的一个特例集成,称为 TS_Vanilla,并且多个形容可以协作以提高综合本能。
图示:TSSA 代码、SMILES 和 SELFIES 的 tokens 分布。(来源:论文)
首先,研讨人员通过深入研讨其独特的特征来系统地评估 t-SMILES。随后,利用 TSSA 和 TSDY 对两个标记的低资源数据集 JNK332 和 AID170633 进行了实行。
研讨重点是 t-SMILES 及其替代品的局限性,这些局限性是通过利用标准、数据增强和预训练微调模型实现的。利用 TSDY、TSSA 和 TSID 并行评估了 ChEMBL 上的 20 个目标导向任务。还对 ChEMBL、Zinc 和 QM9 进行了彻底的实行,通过利用类似的设置比较 t-SMILES 及其替代品。此外,比较了各种鉴于片断的基线模型和 SOTA GNN 模型。
最后,进行了一项消融研讨,以确认鉴于带重建的 SMILES 的生成模型的有用性。为了评估 t-SMILES 算法的适应性和灵活性,利用了四种先前发表的碎片算法来分解份子,包括 JTVAE、BRICS、MMPA 和 Scaffold。不同实行采用了三种指标:分布进修基准、目标导向基准和物理化学性质的 Wasserstein 距离指标。
详细的对比实行表明,t-SMILES 模型生成的新份子 100% 理论有用,优于鉴于 SOTA SMILES 的模型。与 SMILES、DSMILES 和 SELFIES 相比,t-SMILES 的整体解决方案可以避免过拟合问题,并显著提高低资源数据集上的平衡本能,无论是利用数据增强还是预训练然后微调的模型。
图示:利用 GPT 在 ZINC 上进行的分布进修基准测试的结果。(来源:论文)
此外,t-SMILES 模型能够熟练地捕捉份子的物理化学性质,确保生成的份子与训练份子分布保持相似性。与现有的鉴于片断和鉴于图的基线模型相比,这显著提高了本能。特别是,具有目标导向重建算法的 t-SMILES 模型在面向目标的任务中比 SMILES、DSMILES、SELFIES 和 SOTA CReM 表现出明显的优势。
局限性和有待改进之处
LLM 可以理解格式良好的英语语法。因此,是否可以进修 t-SMILES 的树结构,以及 LM 如何超越表面的统计相关性来进修份子的化学知识仍有待深入探索。
该研讨专注于将碎片份子编码为序列,因此仅利用已发布的碎片算法作为示例来创建「化学词」。未来的研讨可以利用 t-SMILES 探索其他碎片算法,更深入地解读化学句子和含义,这实际上比 NLP 更具挑战性。
虽然 t-SMILES 旨在提高份子形容的本能并规避 SMILES 的局限性,但该研讨并未对更复杂的份子进行实行。这将是未来研讨的主题。
最后,这是将碎片份子编码为 SMILES 类型字符串的一个有希望的开端。进一步的研讨可以探索份子重建和优化的高级算法、改进的生成模型和进化技术。此外,研讨可以集中在属性、逆合成和反应预测任务上。
注:封面来自网络