SmartTrim

鉴于 Transformer 结构的视觉语言大模型（VLM）在各种下游的视觉语言任务上取得了巨大成功，但由于其较长的输出序列和较多的参数，导致其相应的较量争论开消地提升，阻碍了在实际环境中进一步部署。为了追求更为高效的推理速度，前人提出了一些针对 VLM 的减速要领，包括剪枝和蒸馏等，但是现有的这些要领大都采用静态架构，其针对分别输出实例采用同样的较量争论图进行推理，忽略了分别实例之间具有分别较量…