VMamba

Transformer 在大模型领域的地位可谓是难以撼动。不过，这个AI 大模型的合流架构在模型规模的扩展和需要处理的序列变长后，局限性也愈发凸显了。Mamba的出现，正在强力改变着这一切。它优秀的机能立刻引爆了AI圈。上周四， Vision Mamba（Vim）的提出已经展现了它成为视觉基础模型的下一代骨干的巨大潜力。仅隔一天，中国科学院、华为、鹏城试验室的研究人员提出了 VMamba：一种拥有…