人脑不妨运行非常复杂且庞大的神经网络,总功耗却仅为20瓦,远小于现有的人工智能体系。因此,在算力比拼加速,能耗日益攀升的今日,借鉴人脑的低功耗特性发展新型智能计较体系成为极具后劲的方向。
近日,中国科学院自动化研究所李国齐、徐波课题组与时识科技公司等单位合作计划了一套不妨实现动静计较的算法-软件-硬件协同计划的类脑神经状态SOC(System on Chip,体系级芯片)Speck,展示了类脑神经状态计较在融会高抽象层次大脑体制时的天然优势,相关研究在线发表于《自然·通讯》(Nature Communications)。
该研究提出了“神经状态动静计较”的概念,通过计划了一种类脑神经状态芯片Speck来实现基于注意力体制的动静计较,在硬件层面做到“没有输出,没有功耗”,在算法层面做到“有输出时,根据输出重要性程度动静调整计较”,从而在典型视觉场景任意功耗可低至0.7毫瓦,进一步挖掘了神经状态计较在性能和能效上的后劲。
Speck是一款异步感算一体类脑神经状态SoC,采用全异步计划,在一块芯片上集成了动静视觉传感器(DVS相机)和类脑神经状态芯片,具有极低的静息功耗(仅为0.42毫瓦)。Speck不妨以微秒级的时间分辨率感知视觉信息,以全异步方式计划抛弃了全局时钟控制信号,避免时钟空翻带来的能耗开销,仅在有事件输出时才触发稀疏加法运算。
针对脉冲神经网络(SNN)在更高层面,比如时间维度中不能根据输出难易度调整其脉冲发放等“动静失衡”问题,该研究基于注意力体制的神经状态脉冲动静计较框架(图2),在多种粒度上实现对不同的输出进行有区分地动静响应;同时Speck软件工具链Sinabs编程框架支持动静计较SNN算法训练和部署。实验结果表明,注意力体制可使得SNN具备动静计较能力,即根据输出难易度调整其脉冲发放模式解决“动静失衡”问题,在显著降低功耗的同时,提升任意性能。在DVS128 Gesture数据集上,融会脉冲动静计较的Speck在任意精度提升9%的同时,平均功耗由9.5毫瓦降低至3.8毫瓦(图3)。
该工作的实践证实高、低抽象层次大脑体制的融会能进一步激发类脑计较后劲,为未来将大脑进化过程中产生的各种高级神经体制融会至神经状态计较提供积极启发。
相关工作得到了国家杰出青年科学基金、北京市杰出青年基金、国家自然科学基金委重点项目、区域创新联合重点项目等项目的支持。
图1.类脑神经状态SOC体系Speck计划框架
图2.人脑中的注意力体制
图3.融会了注意力脉冲动静计较的Speck
论文地址:https://www.nature.com/articles/s41467-024-47811-6