自动化所研发脉冲动态计算的毫瓦级超低功耗异步感算一体类脑芯片

人脑能够运行非常复杂且庞大的神经网络,总功耗却仅为20瓦,远小于现有的人工智能系统。因此,在算力比拼加速,能耗日益攀升的今日,借鉴人脑的低功耗特性发展新型智能计算系统成为极具潜力的方向。 近日,中国科学院自动化研究所李国齐、徐波课题组与时识科技公司等单位合作设计了一套能够实现动态计算的算法-软件-硬件协同设计的类脑神经形态SOC(System on Chip,系统级芯片)Speck,展示了类脑神经形态计算在融合高抽象层次大脑机制时的天然优势,相关研究在线发表于《自然·通讯》(Nature Communication

人脑能够运行非常复杂且庞大的神经网络,总功耗却仅为20瓦,远小于现有的人工智能系统。因此,在算力比拼加速,能耗日益攀升的今日,借鉴人脑的低功耗特性发展新型智能计算系统成为极具潜力的方向。 

近日,中国科学院自动化研究所李国齐、徐波课题组与时识科技公司等单位合作设计了一套能够实现动态计算的算法-软件-硬件协同设计的类脑神经形态SOC(System on Chip,系统级芯片)Speck,展示了类脑神经形态计算在融合高抽象层次大脑机制时的天然优势,相关研究在线发表于《自然·通讯》(Nature Communications)。 

自动化所研发脉冲动态计算的毫瓦级超低功耗异步感算一体类脑芯片

该研究提出了“神经形态动态计算”的概念,通过设计了一种类脑神经形态芯片Speck来实现基于注意力机制的动态计算,在硬件层面做到“没有输入,没有功耗”,在算法层面做到“有输入时,根据输入重要性程度动态调整计算”,从而在典型视觉场景任务功耗可低至0.7毫瓦,进一步挖掘了神经形态计算在性能和能效上的潜力。

Speck是一款异步感算一体类脑神经形态SoC,采用全异步设计,在一块芯片上集成了动态视觉传感器(DVS相机)和类脑神经形态芯片,具有极低的静息功耗(仅为0.42毫瓦)。Speck能够以微秒级的时间分辨率感知视觉信息,以全异步方式设计抛弃了全局时钟控制信号,避免时钟空翻带来的能耗开销,仅在有事件输入时才触发稀疏加法运算。 

针对脉冲神经网络(SNN)在更高层面,比如时间维度中不能根据输入难易度调整其脉冲发放等“动态失衡”问题,该研究基于注意力机制的神经形态脉冲动态计算框架(图2),在多种粒度上实现对不同的输入进行有区分地动态响应;同时Speck软件工具链Sinabs编程框架支持动态计算SNN算法训练和部署。实验结果表明,注意力机制可使得SNN具备动态计算能力,即根据输入难易度调整其脉冲发放模式解决“动态失衡”问题,在显著降低功耗的同时,提升任务性能。在DVS128 Gesture数据集上,融合脉冲动态计算的Speck在任务精度提升9%的同时,平均功耗由9.5毫瓦降低至3.8毫瓦(图3)。 

该工作的实践证实高、低抽象层次大脑机制的融合能进一步激发类脑计算潜力,为未来将大脑进化过程中产生的各种高级神经机制融合至神经形态计算提供积极启发。

相关工作得到了国家杰出青年科学基金、北京市杰出青年基金、国家自然科学基金委重点项目、区域创新联合重点项目等项目的支持。

自动化所研发脉冲动态计算的毫瓦级超低功耗异步感算一体类脑芯片

图1.类脑神经形态SOC系统Speck设计框架

自动化所研发脉冲动态计算的毫瓦级超低功耗异步感算一体类脑芯片

图2.人脑中的注意力机制 

自动化所研发脉冲动态计算的毫瓦级超低功耗异步感算一体类脑芯片

图3.融合了注意力脉冲动态计算的Speck 

论文地址:https://www.nature.com/articles/s41467-024-47811-6

相关资讯

机器之心CVPR线下论文分享会干货集锦,同时邀你报名ACL 2021论文分享会

随着人工智能的火热,AAAI、NeurIPS、CVPR 等顶级学术会议的影响力也愈来越大,每年接收论文、参会人数的数量连创新高。但受疫情影响,近两年国外举办的学术会议都转为了线上,无法满足学者们现场交流的需求。以 CVPR 为例,2019 年,CVPR 注册参会人数高达 9227 人,其中来自国内的参会人数就达到 1044 位。因此,在 2020 年和 2021 年,国内 AI 从业者因疫情限制无法进行有效的学术交流。

Creator 面对面 | 通往第三代人工智能的理论之路如何走?

人工智能已经是一门使能技术。未来人工智能取得突破性的领域方向,一定是从脑科学、材料学等领域得到了启发。同时,人工智能在未来将成为科学家的新生产工具,催生科研新范式。

消息称苹果挖走大量谷歌顶尖人才,建立神秘人工智能实验室

感谢据《金融时报》报道,苹果公司从谷歌挖走了数十名人工智能专家,并在瑞士苏黎世建立了一个“神秘的欧洲实验室”,以组建一支新的团队,负责研发人工智能模型和产品。根据《金融时报》对 LinkedIn 个人资料的分析,自 2018 年苹果挖来约翰・詹南德里亚(John Giannandrea)担任其首席人工智能执行官以来,该公司已经招募了至少 36 位谷歌人工智能专家。据IT之家了解,苹果的主要人工智能团队位于加州和西雅图,但该公司最近扩大了位于瑞士苏黎世的专注于人工智能工作的办公室。有传言指出,苹果收购当地的人工智能初