苹果也在搞自己的大型多模态基础模型，未来会不会基于该模型推出相应的文生图产品呢？我们拭目以待。
今年以来，苹果显然已经加大了对生成式人工智能（GenAI）的重视和投入。此前在 2024 苹果股东大会上，苹果 CEO 蒂姆・库克表示，今年将在 GenAI 领域实现重大进展。此外，苹果宣布放弃 10 年之久的造车项目之后，一部分造车团队成员也开始转向 GenAI。
如此种种，苹果向外界传达了加注 GenAI 的决心。目前多模态领域的 GenAI 技术和产品非常火爆，尤以 OpenAI 的 Sora 为代表，苹果当然也想要在该领域有所建树。
今日，在一篇由多位作者署名的论文《MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training》中，苹果正式公布自家的多模态大模型研究成果 —— 这是一个具有高达 30B 参数的多模态 LLM 系列。
论文地址：https://arxiv.org/pdf/2403.09611.pdf
该团队在论文中探讨了不同架构组件和数据选择的重要性。并且，通过对图象编码器、视觉言语连接器和各种预训练数据的选择，他们总结出了几条关键的设计准则。具体来讲，本文的贡献主要体现在以下几个方面。
首先，研究者在模型架构决策和预训练数据选择上进行小规模融化实验，并发现了几个有趣的趋势。建模设计方面的重要性按以下顺序排列：图象分辨率、视觉编码器损失和容量以及视觉编码器预训练数据。
其次，研究者运用三种不同类型的预训练数据：图象字幕、交织图象文本和纯文本数据。他们发现，当涉及少样本和纯文本功能时，交织和纯文本训练数据非常重要，而对于零样本功能，字幕数据最重要。这些趋势在监视微调（SFT）之后仍然存在，这表明预训练期间呈现出的功能和建模决策在微调后得以保留。
最后，研究者构建了 MM1，一个参数最高可达 300 亿（其他为 30 亿、70 亿）的多模态模型系列， 它由密集模型和混合专家（MoE）变体组成，不仅在预训练指标中实现 SOTA，在一系列已有多模态基准上监视微调后也能保持有竞争力的功能。
具体来讲，预训练模型 MM1 在少样本设置下的字幕和问答任务上，要比 Emu2、Flamingo、IDEFICS 表现更好。监视微调后的 MM1 也在 12 个多模态基准上的结果也颇有竞争力。
得益于大规模多模态预训练，MM1 在上下文预测、多图象和思维链推理等方面具有不错的表现。同样，MM1 在指令调优后展现出了强大的少样本学习能力。
方法概览：构建 MM1 的秘诀
构建高功能的 MLLM（Multimodal Large Language Model，多模态大型言语模型） 是一项实践性极高的工作。尽管高层次的架构设计和训练过程是清晰的，但是具体的实现方法并不总是一目了然。这项工作中，研究者详细介绍了为建立高功能模型而进行的融化。他们探讨了三个主要的设计决策方向：
架构：研究者研究了不同的预训练图象编码器，并探索了将 LLM 与这些编码器连接起来的各种方法。
数据：研究者考虑了不同类型的数据及其相对混合权重。
训练程序：研究者探讨了如何训练 MLLM，包括超参数以及在何时训练模型的哪些部分。
融化设置
由于训练大型 MLLM 会耗费大量资源，研究者采用了简化的融化设置。融化的基本配置如下：
图象编码器：在 DFN-5B 和 VeCap-300M 上运用 CLIP loss 训练的 ViT-L/14 模型；图象大小为 336×336。
视觉言语连接器：C-Abstractor ，含 144 个图象 token。
预训练数据：混合字幕图象（45%）、交织图象文本文档（45%）和纯文本（10%）数据。
言语模型：1.2B 变压器解码器言语模型。
为了评估不同的设计决策，研究者运用了零样本和少样本（4 个和 8 个样本）在多种 VQA 和图象描述任务上的功能：COCO Cap tioning 、NoCaps 、TextCaps 、VQAv2 、TextVQA 、VizWiz 、GQA 和 OK-VQA。
模型架构融化试验
研究者分析了使 LLM 能够处理视觉数据的组件。具体来说，他们研究了（1）如何以最佳方式预训练视觉编码器，以及（2）如何将视觉特征连接到 LLM 的空间（见图 3 左）。
图象编码器预训练。在这一过程中，研究者主要融化了图象分辨率和图象编码器预训练目标的重要性。需要注意的是，与其他融化试验不同的是，研究者本次运用了 2.9B LLM（而不是 1.2B），以确保有足够的容量来运用一些较大的图象编码器。
编码器经验：图象分辨率的影响最大，其次是模型大小和训练数据组成。如表 1 所示，将图象分辨率从 224 提升到 336，所有架构的所有指标都提升了约 3%。将模型大小从 ViT-L 增加到 ViT-H，参数增加了一倍，但功能提升不大，通常不到 1%。最后，加入 VeCap-300M （一个合成字幕数据集）后，在少样本场景中功能提升超过了 1%。
视觉言语连接器和图象分辨率。该组件的目标是将视觉表征转化为 LLM 空间。由于图象编码器是 ViT，因此其输出要么是单一的嵌入，要么是一组与输入图象片段相对应的网格排列嵌入。因此，需要将图象 token 的空间排列转换为 LLM 的顺序排列。与此同时，实际的图象 token 表征也要映射到词嵌入空间。
VL 连接器经验：视觉 token 数量和图象分辨率最重要，而 VL 连接器的类型影响不大。如图 4 所示，随着视觉 token 数量或 / 和图象分辨率的增加，零样本和少样本的识别率都会提升。
预训练数据融化试验
通常，模型的训练分为两个阶段：预训练和指令调优。前一阶段运用网络规模的数据，后一阶段则运用特定任务策划的数据。下面重点讨论了本文的预训练阶段，并详细说明研究者的数据选择（图 3 右）。
有两类数据常用于训练 MLLM：由图象和文本对描述组成的字幕数据；以及来自网络的图象 – 文本交织文档。表 2 是数据集的完整列表：
数据经验 1：交织数据有助于提升少样本和纯文本功能，而字幕数据则能提升零样本功能。图 5a 展示了交织数据和字幕数据不同组合的结果。
数据经验 2：纯文本数据有助于提升少样本和纯文本功能。如图 5b 所示，将纯文本数据和字幕数据结合在一起可提升少样本功能。
数据经验 3：谨慎混合图象和文本数据可获得最佳的多模态功能，并保留较强的文本功能。图 5c 尝试了图象（标题和交织）和纯文本数据之间的几种混合比例。
数据经验 4：合成数据有助于少样本学习。如图 5d 所示，人工合成数据确实对少数几次学习的功能有不小的提升，绝对值分别为 2.4% 和 4%。
最终模型和训练方法
研究者收集了之前的融化结果，确定 MM1 多模态预训练的最终配方：
图象编码器：考虑到图象分辨率的重要性，研究者运用了分辨率为 378x378px 的 ViT-H 模型，并在 DFN-5B 上运用 CLIP 目标进行预训练；
视觉言语连接器：由于视觉 token 的数量最为重要，研究者运用了一个有 144 个 token 的 VL 连接器。实际架构似乎不太重要，研究者选择了 C-Abstractor；
数据：为了保持零样本和少样本的功能，研究者运用了以下精心组合的数据：45% 图象 – 文本交织文档、45% 图象 – 文本对文档和 10% 纯文本文档。
为了提升模型的功能，研究者将 LLM 的大小扩大到 3B、7B 和 30B 个参数。所有模型都是在序列长度为 4096、每个序列最多 16 幅图象、分辨率为 378×378 的情况下，以 512 个序列的批量大小进行完全解冻预训练的。所有模型均运用 AXLearn 框架进行训练。
他们在小规模、9M、85M、302M 和 1.2B 下对学习率进行网格搜索，运用对数空间的线性回归来推断从较小模型到较大模型的变化（见图 6），结果是在给定（非嵌入）参数数量 N 的情况下，预测出最佳峰值学习率 η：
通过专家混合（MoE）进行扩展。在实验中，研究者进一步探索了通过在言语模型的 FFN 层添加更多专家来扩展密集模型的方法。
要将密集模型转换为 MoE，只需将密集言语解码器替换为 MoE 言语解码器。为了训练 MoE，研究者采用了与密集骨干 4 相同的训练超参数和相同的训练设置，包括训练数据和训练 token。
关于多模态预训练结果，研究者通过适当的提示对预先训练好的模型在上限和 VQA 任务上进行评估。表 3 对零样本和少样本进行了评估：
监视微调结果
最后，研究者介绍了预训练模型之上训练的监视微调（SFT）实验。
他们遵循 LLaVA-1.5 和 LLaVA-NeXT，从不同的数据集中收集了大约 100 万个 SFT 样本。鉴于直观上，更高的图象分辨率会带来更好的功能，研究者还采用了扩展到高分辨率的 SFT 方法。
监视微调结果如下：
表 4 展示了与 SOTA 比较的情况，「-Chat」表示监视微调后的 MM1 模型。
首先，平均而言，MM1-3B-Chat 和 MM1-7B-Chat 优于所有列出的相同规模的模型。MM1-3B-Chat 和 MM1-7B-Chat 在 VQAv2、TextVQA、ScienceQA、MMBench 以及最近的基准测试（MMMU 和 MathVista）中表现尤为突出。
其次，研究者探索了两种 MoE 模型：3B-MoE（64 位专家）和 6B-MoE（32 位专家）。在几乎所有基准测试中，苹果的 MoE 模型都比密集模型取得了更好的功能。这显示了 MoE 进一步扩展的巨大潜力。
第三，对于 30B 大小的模型，MM1-30B-Chat 在 TextVQA、SEED 和 MMMU 上的表现优于 Emu2-Chat37B 和 CogVLM-30B。与 LLaVA-NeXT 相比，MM1 也取得了具有竞争力的全面功能。
不过，LLaVA-NeXT 不支持多图象推理，也不支持少样本提示，因为每幅图象都表示为 2880 个发送到 LLM 的 token，而 MM1 的 token 总数只有 720 个。这就限制了某些涉及多图象的应用。
图 7b 显示，输入图象分辨率对 SFT 评估指标平均功能的影响，图 7c 显示，随着预训练数据的增加，模型的功能不断提升。
图象分辨率的影响。图 7b 显示了输入图象分辨率对 SFT 评估指标平均功能的影响。
预训练的影响：图 7c 显示，随着预训练数据的增加，模型的功能不断提升。
更多研究细节，可参考原论文。