本能与 Mamba 一样，但所需训练步调数却少 2.2 倍。
形态空间模型（SSM）是近来一种备受关注的 Transformer 替代技术，其优势是能在长上下文工作上实现线性时间的推理、并行化训练和强大的本能。而鉴于选择性 SSM 和硬件感知型设想的 Mamba 更是表现出色，成为了鉴于注意力的 Transformer 架构的一大有力替代架构。
近期也有一些钻研者在探索将 SSM 和 Mamba 与其它办法组合起来创造更强大的架构，比如机器之心曾报告过《Mamba 可以替代 Transformer，但它们也能组合起来运用》。
近日，波兰一个钻研团队发现，如果将 SSM 与混合大师系统（MoE/Mixture of Experts）组合起来，可望让 SSM 实现大规模扩大。MoE 是目前常用于扩大 Transformer 的技术，比如近期的 Mixtral 模型就运用了这一技术，参阅机器之心文章。
这个波兰钻研团队给出的钻研成果是 MoE-Mamba，即将 Mamba 和混合大师层组合起来的模型。
论文地址：https://arxiv.org/pdf/2401.04081.pdf
MoE-Mamba 能同时提升 SSM 和 MoE 的效率。而且该团队还发现，当大师的数目发生变化时，MoE-Mamba 的行为是可预测的。
该团队也进行了实验论证，如图 1 所示，结果表明：相比于 Mamba，MoE-Mamba 达到同等本能时所需的训练步调数少 2.2 倍，这彰显了新办法相较于 Transformer 和 Transformer-MoE 的潜在优势。这些初步结果也指出了一个颇具潜力的钻研方向：SSM 也许可以扩大到数百亿参数！
相关钻研
形态空间模型
形态空间模型（SSM）是一类用于序列建模的架构。这些模型的思想源自控制论领域，可被看作是 RNN 和 CNN 的组合。尽管它们具有相当大的优势，但也有一些问题，因此难以成为语言建模工作的主导架构。但是，近期的一些钻研突破却让深度 SSM 可以扩大到数十亿参数，同时还能维持计算效率和强大的本能表现。
Mamba
Mamba 是鉴于 SSM 构建的模型，能实现线性时间的推理速度（对上下文长度而言），并且其还通过硬件感知型设想实现了高效的训练流程。Mamba 采用了一种工作高效型的并行扫描办法，可以减轻循环的序列性的影响，而融合 GPU 操作则可无需实现扩大形态。反向传播所必需的中间形态不会被保存下来，而是会在反向通过过程中被重新计算，由此可以降低内存需求。Mamba 优于注意力机制的优势在推理阶段尤其显著，因为其不仅能降低计算复杂度，而且内存运用量还不会取决于上下文长度。
Mamba 能解决序列模型的效率和效果之间的根本性权衡，这就凸显了形态压缩的重要性。高效的模型必需要小形态，而有效的模型所需的形态应当包含上下文的所有关键信息。不同于其它 SSM 对时间和输入不变性的需求，Mamba 引入了一种选择机制，可以控制信息沿序列维度传播的方式。这一设想选择的灵感来自对选择性复制和归纳头等合成工作的直观理解，让模型可以分辨和保留关键信息，同时滤除无关信息。
钻研发现，Mamba 有能力高效地利用更长的上下文（长达 1M token），并且随着上下文长度增长，预训练困惑度也会得到改善。Mamba 模型是由堆叠的 Mamba 块构成的，在 NLP、基因组学、音频等多个不同领域都取得了非常好的结果，其本能可以媲美和超越已有的 Transformer 模型。因此，Mamba 成为了通用序列建模骨干模型的一个有力候选模型，参阅《五倍吞吐量，本能全面包围 Transformer：新架构 Mamba 引爆 AI 圈》。
混合大师
混合大师（MoE）这类技术能极大提升模型的参数数目，同时不会影响模型推理和训练所需的 FLOPs。MoE 最早由 Jacobs et al. 于 1991 年提出，并在 2017 年由 Shazeer et al. 开始用于 NLP 工作。
MoE 有一个优势：激活很稀疏 —— 对于解决的每一个 token，只会用到模型的一小部分参数。由于其计算需求，Transformer 中的前向层已经变成了多种 MoE 技术的标准目标。
钻研社区已经提出了多种办法用于解决 MoE 的核心问题，即将 token 分配给大师的过程，也称路由（routing）过程。目前有两种基本的路由算法：Token Choice 和 Expert Choice。其中前者是将每一个 token 路由到一定数目（K）的大师，至于后者则是路由到每一个大师的 token 数目是固定的。
Fedus et al. 在 2022 年的论文《Switch transformers: Scaling to trillion parameter models with simple and efficient sparsity》中提出的 Switch 是一种 Token Choice 架构，其是将每一个 token 路由到单个大师（K=1），而他们运用该办法将 Transformer 的参数规模成功扩增至了 1.6 万亿。波兰的这个团队在实验中也采用了这种 MoE 设想。
最近，MoE 也开始进入开源社区，比如 OpenMoE。
项目地址：https://github.com/XueFuzhao/OpenMoE
尤其值得一提的是 Mistral 开源的 Mixtral 8×7B，其本能可比肩 LLaMa 2 70B，同时所需的推理计算预算只有后者的约六分之一。
模型架构
尽管 Mamba 的主要底层机制与 Transformer 中运用的注意力机制大不相同，但 Mamba 保留了 Transformer 模型的高层级、鉴于模块的结构。运用这一范式，由相同模块构成的一层或多层会彼此堆叠在一起，而每一层的输出都会被添加到残差流（residual stream）中，见图 2。之后，这个残差流的最终值会被用于预测语言建模工作的下一个 token。
MoE-Mamba 利用了这两种架构的兼容能力。如图 2 所示，在 MoE-Mamba 中，每间隔一个 Mamba 层就会被替换成一个鉴于 Switch 的 MoE 前馈层。
不过该团队也注意到这一设想和《Mamba: Linear-time sequence modeling with selective state spaces》的设想有些相似；后者交替堆叠了 Mamba 层和前馈层，但得到的模型相比于单纯的 Mamba 还略有不及。该设想在图 1 中被记为 Mamba-MLP。
MoE-Mamba 分开了 Mamba 层执行的每一个 token 的无条件解决和 MoE 层执行的有条件解决；其中的无条件解决可高效地将序列的整个上下文整合到一个内部表征中，而有条件解决可为每一个 token 运用最相关的大师。这种将有条件解决和无条件解决交替起来的思路在一些鉴于 MoE 的模型中已经得到了应用，不过它们通常是交替基本的和 MoE 的前馈层。
主要结果
训练设置
该团队比较了 5 种不同设置：基本 Transformer、Mamba、Mamba-MLP、MoE 和 MoE-Mamba。
在大多数 Transformers 中，前馈层包含 8dm² 个参数，而 Mamba 论文中则让 Mamba 更小一些（约 6dm²），这样两个 Mamba 层的参数数目与一个前馈层和一个注意力层加起来差不多。为了让 Mamba 和新模型中每一个 token 的活动参数数目大致一样，该团队将每一个大师前向层的大小缩小到了 6dm²。除了嵌入层和解除嵌入（unembedding）层，所有模型都是每一个 token 运用大约 2600 万参数。训练过程运用了 65 亿个 token，训练步调数为 100k。
训练运用的数据集是 English C4 数据集，工作是预测下一 token。文本的 token 化运用了 GPT2 tokenizer。表 3 给出了超参数的完整列表。
结果
表 1 给出了训练结果。MoE-Mamba 的表现显著优于普通 Mamba 模型。
值得注意的是，MoE-Mamba 只用仅仅 46% 的训练步调就达到了与普通 Mamba 同等的结果水平。由于学习率是针对普通 Mamba 进行调整的，因此可以预计，如果再针对 MoE-Mamba 对训练流程进行一番优化，MoE-Mamba 的表现还会更好。
消融钻研
为了评估 Mamba 是否能随大师数目的增长而很好地扩大，钻研者比较了运用不同数目大师的模型。
图 3 展示了运用不同数目的大师时的训练运行步调情况。
表 2 给出了 100k 步调后的结果。
这些结果表明新提出的办法能随大师数目而很好地扩大。如果大师的数目为 8 或更多，新模型的最终本能优于普通 Mamba。由于 Mamba-MLP 比普通 Mamba 差，可以预见运用少量大师的 MoE-Mamba 的本能表现会比 Mamba 差。当大师数为 32 时，新办法得到了最佳结果。