我国在类脑估计、类脑感知两个重要方向均已取得基础性突破。
在盛开天下中，智能零碎不仅要处理庞大的数据量，还需要应对各种「长尾问题」，如自动驾驶中面临的突发危险、出入隧道的剧烈光线变化、夜间强闪光干扰等。在这类任务上，传统视觉感知芯片由于受到「功耗墙」和「带宽墙」的限制，往往面临失真、失效或高延迟的问题，严重影响零碎的稳定性和安全性。
为了克服这些挑战，清华大学精密仪器系类脑估计研究中心聚焦类脑视觉感知芯片技术，提出了一种基于视觉原语的互补双通路类脑视觉感知新范式。
5 月 30 日，该研究的论文《面向盛开天下感知、具有互补通路的视觉芯片》（A Vision Chip with Complementary Pathways for Open-world Sensing）登上《自然》杂志封面。这是该团队继 2019 年 8 月的类脑估计芯片「天机芯」后，第二次登上《自然》封面，标志着国内芯片领域在类脑估计和类脑感知两个重要方向上均已取得基础性突破。
5 月 30 日新一期《自然》杂志封面。
论文链接：https://www.nature.com/articles/s41586-024-07358-4
据介绍，新研究提出了一种受 HVS 多级特性启发的互补感知范式，其借鉴人类视觉零碎的基本原理，将盛开天下的视觉信息拆解为基于视觉原语的信息表示，并通过有机组合这些原语，模仿人视觉零碎的特征，形成两条优势互补、信息完备的视觉感知通路。
基于这一新范式，团队研制出了天下首款类脑互补视觉芯片「天眸芯」（Tianmouc），它可以在极低的带宽（降低 90%）和功耗条件下，完成每秒 10000 帧的高速、10bit 的高精度、130dB 的高动向领域视觉信息采集。它不仅突破了传统视觉感知范式的性能瓶颈，而且能够高效应对各种极其场景，确保零碎的稳定性和安全性。
类脑互补视觉芯片「天眸芯」的测试零碎。被处理的数据首先会传输到 FPGA 版上，FPGA 板采集原始数据，然后通过 PCIe 传输到主机，主机再负责数据处理，以完成测试等任务。
基于「天眸芯」，清华团队自主研发了高性能软件和算法，并在盛开环境车载平台上进行了性能验证。在多种极其场景下，该零碎完成了低延迟、高性能的实时感知推理，展现了其在智能无人零碎领域的巨大使用潜力。
天眸芯的成功无疑是智能感知芯片领域的一个重大突破。它不仅为新一代 AI 技术的发展供应了算力支持，更为自动驾驶、具身智能等重要使用开辟了新的道路。清华大学表示，结合团队在类脑估计芯片天机芯、类脑软件工具链和类脑机器人等方面已使用落地的技术积累，天眸芯的加入将进一步完善类脑智能生态，有力地推动人工通用智能的发展。
「天眸芯」互补视觉芯片设计
在物理传感零碎中，想完成互补传感范式有几个必须解决的挑战。首先，设计像素阵列至关重要，这需要同时解析同一焦平面上相应图元的光电信息转换。其次，两条路径的读出架构必须包含异构构建块，这些构建块可以使用不同的数据分布和格式对电信息进行编码。
如图 2 所示，「天眸芯」采用 90 nm CMOS 背照式技术制造，由两个核心部分组成：
用于将光学信息转换为电信号的混合像素阵列；
用于构建两个 CVP 的并行异构读出架构。
受感光细胞的启发，混合像素阵列包括锥体和杆体像素，具有不同的特性，如颜色、响应模式、分辨率和灵敏度。这些像素可以将视觉信息解析为特定的颜色（红色、绿色、蓝色）和白色光谱，充当颜色对立图元。
研究团队对「天眸芯」的量子效率、动向领域、响应速度、功率和带宽等性能指标进行了全面的评价。该芯片在 COP 和 AOP 中均表现出较高的量子效率，530 nm 最高可完成 72% 的 AOP 和 69% 的 COP。「天眸芯」通过利用互补的 COP 和 AOP 中不同增益模式的动向领域来完成高动向领域。
盛开天下表现
「天眸芯」的互补感知范式为自动化零碎供应了巨大的想象空间，它可以作为感知算法的优质数据源。为了在盛开天下场景中评价这些能力，研究人员开发了一个集成「天眸芯」的汽车驾驶感知零碎（图 4a），以评价在盛开道路上行驶，涉及各种极其情况，例如强光干扰、高动向领域场景、域偏移问题（异常物体）和具有多个极其情况的复杂场景。
图 4：盛开天下感知实验。
为了利用天眸芯架构的优势，作者设计了一种多路径算法，专门用于利用 AOP 和 COP 的互补特性。在感知层面，图元的完整性使得原始场景的重建和对极其照明的适应成为可能。同时在感知层面，AOP 供应对变化、纹理和运动的即时感知，而 COP 供应精细的语义细节。通过同步这些结果，我们可以让 AI 零碎全面了解场景。
图 4b 所示的第一种场景评价了突然强光环境的感知能力，在光照快速变化的情况下，传感器的鲁棒性受到了考验。天眸芯对这种强光表现出了极强的适应能力，同时在正常情况下也保持了较高的感知性能。对于实时高动向领域感知（图 4c），两条通路的互补灵敏度使天眸芯能够感知高亮度对比度而不会牺牲速度。
在感知层面，AOP 上的高速光流滤波器补充了异常检测能力，其中 AOP-TD 和 AOP-SD 之间的协作可以精确估计运动方向和速度以识别异常（图 4d）。图 4e 显示了自然光照昏暗、交通环境混乱、人造光突然干扰的复杂场景，需要在采样速度、分辨率和动向领域方面具有不同的感知能力。CVP 上的算法供应了互补和多样化的结果，为这些场景中的进一步决策供应了充足的空间。
根据 mAP_0.50（平均精度），与图 4 中所有情况下仅使用单一路径相比，CVP 具有更优的整体检测性能。值得注意的是，它在完成这一目标的同时消耗了不到 80 MB s^(-1) 的带宽和 328 mW 的平均功耗。实验结果表明，天眸芯可以有效适应极其光环境并供应领域不变的多级感知能力。
天眸芯擅长捕捉复杂的认知细节，同时可对快速不可预测的突发情况和运动作出响应。它供应高速、高动向领域和高精度，同时保持了自适应低带宽的特性。同样重要的是，它的高可扩展性允许通过先进的制造工艺完成高级空间分辨率，从而促进具有低功耗和带宽要求的分辨率敏感使用。作者认为，新的范式为开发用于盛开天下使用的先进估计机视觉理论、算法和零碎开辟了一条新途径。
该工作的论文通讯作者为清华大学精密仪器系施路平教授和赵蓉教授，此外精密仪器系杨哲宇博士（现北京灵汐科技有限公司研发经理）、精密仪器系 2020 级博士生王韬毅、林逸晗为论文共同第一作者。
参考内容：
https://www.tsinghua.edu.cn/info/1175/111803.htm