储层估计可能发挥重要作用的使用领域。
编辑 | 紫罗
尽管深度进修在处理信息方面夺得了巨大成功，但其依赖于训练大型神经网络模型，限制了其在常见使用中的部署。
因此，人们对开发能倏地推理和倏地适应的小型轻量级模型的需求日益增长。
作为当前深度进修范式的替代方向，神经形态估计研讨引起了人们的极大兴趣，其主要关注开发新型估计零碎，这些零碎的能耗只有当前鉴于晶体管的估计机的一小部分。
在神经形态估计中，一个重要的模型家族是储层估计（RC），储层估计起源于 21 世纪初，它在过去的二十年中夺得了重大进展。
为了释放储层估计的全部功能，为时态动力零碎提供倏地、轻量级且可解释性更高的进修框架，需要进行更多的研讨。
近日，华为联合复旦大学、伯明翰大学和根特大学（Ghent University）在《Nature Communications》发表题为《Emerging opportunities and challenges for the future of reservoir computing》的 Perspective 文章。
该综述旨在阐明储层估计的数学实际、算法安排和试验完成的并行进展，并确定大规模工业采用储层估计的新机遇和现有挑拨，以及如何通过跨学科学术和工业研讨人员的共同努力来解决这些挑拨的一些想法和观点。
论文链接：https://www.nature.com/articles/s41467-024-45187-1
储层估计起源于 21 世纪初，在过去二十年，RC 研讨在数学实际、估计方法以及试验原型和完成方面都夺得了重大成果。
RC 的核心思想是利用动力零碎作为储层（标准基的非线性推广）来自适应进修复杂时间序列中的时空特征和隐藏模式。这些开创性研讨证明，在混沌零碎中具有更高精度猜测的后劲，引起了非线性动力学和复杂零碎界的极大兴趣和后续关注。
RC 概念化了类脑零碎如何运行，具有核心三层架构：输出（感知）层接收信息并执行一些预处理，中间（处理）层通常由一些非线性循环网络动力学定义，输出信号充当激励，输出（控制）层重新组合来自处理层的信号以产生最终输出。
图示：深度进修与储层估计的比较。（起原：论文）
图示：RC 框架的示意图。（起原：论文）
尽管在各个方向夺得了成功，但在整个工业范围内大规模采用 RC，或在合成和试验室试验之外，还没有广泛令人信服的「杀手级使用」。实际上，由于其紧凑的安排和倏地的训练，RC 长期以来一直被视为许多工业级信号处理和进修任务的理想解决方案。
图示：近 20 年来，RC 研讨在数学实际、估计方法以及试验原型和完成方面夺得的重大成果。（起原：论文）
RC 零碎实际与算法安排
RC 的核心思想是安排和使用动向零碎作为储层，根据输出数据自适应地生成信号基础，并以某种最佳方式组合它们以放荡所需过程的动向行为。在这个角度下，回顾和讨论了RC 零碎的数学表示、常见的 RC 安排和 RC 背后的数学实际。
RC 零碎的物理安排：从集成电路到硅光子学
为了归档具有短期记忆的可控非线 性高维零碎，可以使用一些具有非线性动向特性的特定物理零碎来完成储层，其中网络连接由物理相互作用决定。
随着电学和光学器件集成技能的发展，估计效率相对于传统的布尔逻辑方法可以大大提高。物理储层的完成与软件方式类似，但略有不同。
图示：物理储层估计示意图。（起原：论文）
原则上，现有的形态电路，例如 FPGA 和 ASIC，可以完成为电子储存器。
除了鉴于布尔逻辑和冯诺依曼结构的蓄电池之外，人们一直在追求更高效率和更低能耗的方法。对于储层模型，可采用非线性放荡电子电路直接建立储层模型，如 Mackey-Glass 电路。
另一方面，光子技能的发展为超高速、低能耗的硬件零碎带来了希望，特别是神经网络训练。与传统的微电子技能相比，光学零碎在高带宽、低延迟和低能耗方面具有显著的优势。鉴于光学零碎的储层网络也夺得了重大进展。
相比较而言，鉴于 FPGA 和 ASIC 的储层方案由于其估计的非冯诺依曼/内存性质，与通用 CPU 电子架构相比可以大大提高估计速度和功耗。此外，输出端和输出端均无需进行光电转换，方便数据缩放和处理。但估计效率已接近实际极限。综合利用各自优势，采用异构集成方案或许是一条可行的路径。
RC 的使用基准
RC 的使用非常多样化，主要分为几类：信号分类（例如，语音数字识别）、时间序列猜测（例如，Mackey-Glass 动力学中的混沌猜测）、零碎动力学控制（例如， 进修实时控制机器人）和偏微分方程估计（例如，Kuramoto-Sivashinsky 方程的倏地放荡）。
图示：RC 的使用示例。（起原：论文）
总体而言，RC 在一系列基准测试和任务中表现出色，并不断努力进一步改善结果。下图总结了典型使用场景中 RC 性能的趋势。
图示：典型使用场景中 RC 性能的趋势。（起原：论文）
鉴于实际上 RC 与通用神经网络一样具有通用逼近能力，原则上似乎没有什么能阻止 RC 模型推动最具挑拨性的人工智能任务的前沿，这应该是整个 RC 社区的主要目标。
RC 未来发展的机遇和技能挑拨
随着技能不断倏地进步，开发动向、轻量级且可低成本广泛部署的智能信息处理零碎的需求不断增加。
据猜测，到 2030-2035 年，无线和光通信都将迎来第六代（6G/F6G），为数百亿设备和数十亿用户提供连接。
预计全球数据中心的吞吐量将达到数万亿 GB，需要超过 200 太瓦时的功耗。
此外，数以千万计的机器人将进入我们的日常生活，以低成本提高劳动效率。
虚拟现实和元宇宙严重依赖于物理世界的实时放荡。
这些主要使用需要大量的能力，包括动向不确定性信息的准确识别、倏地猜测和估计以及动向控制，所有这些都可以由 RC 零碎提供。
研讨人员详细讨论了 RC 研讨将在 6G、下一代光网络、物联网 (IoT)、绿色数据中心、智能机器人、科学人工智能和数字孪生几个重要的使用领域发挥的关键作用。
展望
综上所述，虽然 RC 在功能上具备大规模使用的后劲，但要真正解决上述各类重大使用中的技能问题，现有 RC 零碎在各方面仍存在诸多关键挑拨。
在试验层面，将 RC 模型映射到物理零碎时仍然存在一些差距。第一个是物理基底RC的时间尺度问题。第二个是实时数据处理问题。除了这些实际挑拨之外，硬件漂移通常需要定期重复校准过程，因此它不能是一种优化。此外，数据预处理和后处理也限制了物理 RC 零碎的整体估计速度。解决此问题的一种方法是使用鉴于硬件的读出而不是鉴于软件的读出。
展望未来，彻底探索鉴于动力零碎的智能进修机的后劲至关重要。在实际和算法研讨领域，需要不断突破性能界限，为试验安排提供指导。RC 研讨可以扎根于实际和算法，试验可以作为实际和算法结果的近似。
展望未来，释放 RC 和神经拟态估计的全部后劲至关重要，但也充满挑拨。事实上，这不仅仅是发布开源代码或解决一些具体问题。创新理念和跨学科研讨形式非常需要。
尽管面临许多挑拨，但通过坚持和创新，RC 和神经形态估计的工作可能会出现一种新的、未来的智能进修和估计范式。
【推荐阅读】
低能耗低时耗，中科院&香港大学团队使用新方法进行多任务进修的可穿戴传感器内储层估计为储层估计开辟新的可能性，北大提出鉴于α-In2Se3的新型人工光电突触将储层估计与统计猜测和深度神经网络连接起来