KAN

Transformer 是现代深度学习的基石。传统上，Transformer 依赖多层感知器 (MLP) 层来混合通道之间的信息。 前段时间，来自 MIT 等机构的研究者提出了一种非常有潜力的替代方法 ——KAN。该方法在准确性和可解释性方面表现优于 MLP。而且，它能以非常少的参数量胜过以更大参数量运行的 MLP。KAN的发布，引起了AI社区大量的关注与讨论，同时也伴随很大的争议。而此类研究，又…

KAN 作家：我想传达的信息不是「KAN 很棒」，而是「尝试批判性地思考当前的架构，并寻求从根本上不同的替换方案，这些方案可以完成有趣、有用的事情。」多层感知器（MLP），也被称为全连接前馈神经收集，是当今深度进修模型的基础构建块。MLP 的重要性无论怎样强调都不为过，因为它们是机器进修中用于逼近非线性函数的默认法子。但是最近，来自 MIT 等机构的研讨者提出了一种非常有潜力的替换法子 ——KAN…