google表示，Gemini 1.5 相比 Claude 3.0 和 GPT-4 Turbo 完成了代际提升。
今年 2 月，google上线了多模态大模型 Gemini1.5，通过工程和基础设施优化、MoE 架构等策略大幅提升了本能和速度。拥有更长的上下文，更强推理能力，可以更好地处理跨模态内容。
本周五，Google DeepMind 正式发布了 Gemini 1.5 的技术通知，内容覆盖 Flash 版等最近升级，该文档长达 153 页。
技术通知链接：https://storage.googleapis.com/deepmind-media/gemini/gemini_v1_5_report.pdf
在本通知中，google介绍了 Gemini 1.5 系列模型，它是代表了下一代高计算效率的多模态大模型，能够从数百万 token 上下文中调用细粒度信息并进行推理，包括多个长文档、数小时的视频。
该系列包括两个新型号：
更新的 Gemini 1.5 Pro，其大部分功能和基准都超过了 2 月份的版本
Gemini 1.5 Flash，一种更轻量级的变体，专为提高效率而设计，并且在本能方面的减益很小。
有关本周google I/O 大会上提到的 Flash 版，通知中表示，Gemini 1.5 Flash 是一个 Transformer 解码器模型，具有与 Gemini 1.5 Pro 相同的 2M+ 上下文和多模态功能，旨在高效利用张量处理单元 (TPU)，并具有较低的模型服务延迟。例如，Gemini 1.5 Flash 可以并行计算注意力和前馈分量，并且也是拥有更大网络在线提取能力的 Gemini 1.5 Pro 模型。它使用高阶预处理方法进行训练以提高质量。
通知评估了从 Gemini 1.5 和 Vertex AI 流 API 中获取的英语、中文、日语和法语查询的每个输出字符的平均时间。
英语、中文、日语和法语响应的每个输出字符的时间（毫秒），在输入 1 万个字符的情况下，Gemini 1.5 Flash 在所有尝试的说话中完成了最快生成速度。
Gemini 1.5 Pro、1.5 Flash 和 Gemini 1.0 模型在标准编码、多说话以及数学、科学和推理基准上的评估结果。1.5 Pro 和 1.5 Flash 的所有数字都是在指令调整后获得的。
Gemini 1.5 Pro 与 Gemini 1.0 Pro 和 Ultra 在视频理解基准上的比较。
Gemini 1.5 Pro 与 USM、Whisper、Gemini 1.0 Pro 和 Gemini 1.0 Ultra 在音频理解任务上的比较。
Gemini 1.5 模型在跨模态的长上下文检索任务上完成了近乎完美的召回，提高了长文档 QA、长视频 QA 和长上下文 ASR 的最优水平，并匹配或超越 Gemini 1.0 Ultra 在一系列广泛的基准尝试中表现出最先进的本能。此外，google也表示，到今年 5 月，Gemini 1.5 的本能相比 2 月份已有明显提升。
Gemini 1.5 Pro（5 月）与初始版本（2 月）在多个基准尝试中的比较。最新的 Gemini 1.5 Pro 在所有推理、编码、视觉和视频基准尝试中进行了改进，而音频和翻译本能保持不变。注意，对于 FLEURS，分数越低越好。
Google DeepMind 副总裁，Gemini 项目联合负责人 Oriol Vinyals 总结道，Gemini 1.5 Pro > 1.0 Ultra、1.5 Flash（目前最快型号） ~= 1.0 Ultra。
通过研究 Gemini 1.5 的长上下文能力的极限，我们可以看到在下一个 token 预测和近乎完美的检索（>99%）方面持续改进。相比 Claude 3.0 (200k) 和 GPT-4 Turbo (128k) 等现有模型完成了一代的飞跃。
在通知的第七章节，google介绍了 Gemini 1.5 Pro 数学增强版本的跑分，它在竞赛级数学问题上表现出色，包括在未使用工具的情况下在 Hendryck 的 MATH 基准尝试中取得了 91.1% 的突破级本能。
以下是该模型解决亚太数学奥林匹克（APMO）题目的一些示例，这些问题是此前模型显然无法解决的。Oriol Vinyals 表示，这个回答相当棒，因为它是一个证明（而不是计算），解决方案切中要害，而且「很漂亮」。
最后，google重点介绍了大模型在现实世界的用例，例如 Gemini 1.5 与专业人士合作完成任务并完成目标，在 10 个不同的工作类别中可节省 26-75% 的时间。
这种前沿大说话模型也展示出了一些令人惊讶的新功能。当给定 Kalamang（一种巴布亚新几内亚西部不到 200 人使用的说话）的语法手册时，该模型可以学会将英语翻译成 Kalamang，与从相同内容中学习的人类处于相似的水平。