图像识别 - AI在线

AI界的“火眼金睛”！Finer-CAM让AI理解图像更精准，分类更清晰

人工智能在图像识别领域那是卷得飞起，分类猫猫狗狗早就Out啦，现在流行的是“连连看”Plus版，比如一眼认出这是哪一年的哪个型号的跑车，或者这只鸟的眉毛是不是比隔壁老王的粗那么一丢丢。可问题来了，神经网络它“聪明”是聪明，但让它说清楚“我凭啥说这是这个?”的时候，就有点像学渣被问解题思路，支支吾吾半天憋不出个所以然。传统的Class Activation Map（CAM）就像是给神经网络脑袋上戴了个发光圈，告诉你“嗯，它主要看这块儿了”，但具体看啥?为啥看这儿?遇到“双胞胎”级别的细微差别，它就直接懵圈了，指着一堆相似的地方说“大概…是这儿吧…也许…”。

Springer知识蒸馏专著解读 | 面向图像识别的知识蒸馏综述

本次文章介绍我们发表于由Springer出版的专著《Advancements in Knowledge Distillation: Towards New Horizons of Intelligent Systems 》中的第一章“Categories of Response-Based, Feature-Based, and Relation-Based Knowledge Distillation”。该篇文章的主要内容是整理了面向图像识别的知识蒸馏的相关工作，首先在response-based、feature-based和relation-based三种知识形式来介绍离线知识蒸馏的相关工作，然后整理了在线知识蒸馏和自知识蒸馏的相关工作，在其中也对自监督学习蒸馏和视觉Transformer（ViT）蒸馏也进行了介绍。最后讲解了扩展的蒸馏技术领域，包括多教师知识蒸馏、跨模态知识蒸馏、注意力机制知识蒸馏、无数据知识蒸馏和对抗知识蒸馏。