编辑 | 枯叶蝶
近日，天津大学激光与光电子研究所吴亮副教授、姚建铨院士团队联合自然语言处理实验室熊德意教授团队报道了一种使用多频率补充输入的深度学习模型来增强光谱预测效果的方案。
该方案可有效地提高现有光学数据集的利用率，在不额外增加训练成本的基础上，增强了与超表面结构对应的光谱响应的预测效果。
相关研究成果以「Enhanced spectrum prediction using deep learning models with multi-frequency supplementary inputs」为题，于 2024 年 5月16 日发表在《APL Machine Learning》。
论文链接：https://doi.org/10.1063/5.0203931
研究背景
近年来，深度学习技术的快速发展为各个领域带来了前所未有的变革和创新，成为了多门学科处理复杂且庞大的数据的有效工具。
基于神经网络的方法可以有效地检测目标数据的相关特征和潜在模式，但如果深度学习模型直接学习这些来自不同领域、不同格式的相关数据仍存在一定的挑战。
特别的，近年来结合深度学习技术的研究领域普遍面临着现有数据集的体量小、质量低等问题，影响了模型对于目标任务的学习效果。
在整个「AI for Science」的研究过程中，耗费成本最高的部分主要是数据集的构建，因此，如何更有效地利用现有数据集至关重要。
天津大学团队经研究证明，在目标频谱预测过程中向现有数据集添加补充的多频输入信息，可以显著提高网络的预测准确率。这种方法为深度学习和光子学、复合材料设计和生物医学等其他领域的跨学科研究和应用提供了新的数据集使用思路。
研究亮点
研究的创新点在于提出了全频率范围的光谱信息拆分思想，表现为结合实际设计需求，将全频率光谱信息按照工作频率部分及非工作频率部分进行学习任务拆分。
为展示该方案的普适性，工作中将目标工作频段细化为低频信息 (0-1 THz)部分和高频信息 (1-2 THz)部分来演示模型学习的增强效果。
与对该工作频率范围数据进行直接预测相比，在补充了其他频率信息后，整体的透射光谱数据预测误差下降了 80% 左右，其中基于 Transformer 的模型在补充低频信息后，预测误差仅为直接预测的 40% 左右，设计的超表面结构和模型架构如图一所示：
图1 (a)-(b) 超表面结构示意图，其中棕色部分代表「1」像素，黄色部分代表「0」像素。(c) CNN、LSTM、GRU 和 Transformer 网络示意图，正向网络中，模型的输入是25*25像素的超表面矩阵，输出是光学响应，而逆向网络则相反。其中图中标注的「H」和「L」分别代表高频和低频的相关振幅和相位数据。
为更直观的展示优化后不同工作频率下振幅及相位参量的预测效果，这里随机选取一些超表面结构在 CST Studio Suite 软件中进行仿真演示，如图二所示：
图2 优化后高频和低频数据的预测效果示意图。(a)-(f) 通过将真实数据（紫色实线）与预测数据（黑色虚线）进行比较，证明优化网络模型在不同频率范围内的不同预测性能。绿色区域表示用作补充输入的频率信息数据，而黄色区域表示用于验证优化预测性能的区域。其中a和b代表x偏振态高频和低频振幅的预测结果。(c)-(d) y偏振态高频和低频振幅的预测结果。(e)-(f) 高频和低频相位的预测结果。
总结与展望
该研究通过对不同光学问题的学习任务进行有针对性的数据集拆分，有效地提高了现有数据集的利用效率，进而提升了深度学习模型的学习效果。
这一优化方案有效缓解了现有光学数据集（特别是太赫兹波段的相关数据集）较少的问题，也为更多结合深度学习技术但数据昂贵的研究领域，如复合材料设计、医学影像分析、金融数据预测等提供了一种对数据集进行优化的新视角。
第一作者：邢效华，任玉琪 指导教师：吴亮，熊德意，姚建铨
论文合作者：邹蝶，张乾坤，毛炳轩
致谢：张霜教授（香港大学）、韩家广教授在论文工作过程中的帮助。相关研究受到国家重点研发计划、国家自然科学基金等项目支持。
通讯员：张乾坤 史森方
