性能比 GPT-4 强很多。
大模型的纯文本方向，已经卷到头了？
昨晚，OpenAI 最大的竞争对手 Anthropic 发布了新一代 AI 大模型系列 ——Claude 3。
该系列包含三个模型，按本领由弱到强排列分别是 Claude 3 Haiku、Claude 3 Sonnet 和 Claude 3 Opus。其中，本领最强的 Opus 在多项基准测试中得分都超过了 GPT-4 和 Gemini 1.0 Ultra，在数学、编程、多语言明白、视觉等多个维度树立了新的行业基准。
Anthropic 表示，Claude 3 Opus 拥有人类本科生程度的知识。
在新模型发布后，Claude 首次带来了对多模态本领的支持（Opus 版本的 MMMU 得分为 59.4%，超过 GPT-4V，与 Gemini 1.0 Ultra 持平）。用户现在可以上传照片、图表、文档和其他类型的非结构化数据，让 AI 进行分析和解答。
此外，这三个模型也延续了 Claude 系列模型的传统强项 —— 长上下文窗口。其初始阶段支持 200K token 上下文窗口，不过，Anthropic 表示，三者都支持 100 万 token 的上下文输出（向特定客户开放），这大约是英文版《白鲸》或《哈利・波特与死亡圣器》的长度。
不过，在定价上，本领最强的 Claude 3 也比 GPT-4 Turbo 要贵得多：GPT-4 Turbo 每百万 token 输出 / 输出收费为 10/30 美元 ；而 Claude 3 Opus 为 15/75 美元。
Opus 和 Sonnet 现可在 claude.ai 和 Claude API 中使用，Haiku 也将于不久后推出。亚马逊云科技也第一时间宣布新模型登陆了 Amazon Bedrock。以下是 Anthropic 发布的官方 demo：
在 Anthropic 官宣之后，不少得到试用机会的研究者也晒出了自己的体验。有人说，Claude 3 Sonnet 解出了一道此前只有 GPT-4 才能解开的谜题。
不过，也有人表示，在实际体验方面，Claude 3 并没有彻底击败 GPT-4。
第一手实测Claude3
地址：https://claude.ai/
Claude 3 是否真的像官方所宣称的那样，性能全面超越了 GPT-4？目前大多数人认为，确实有那么点意思。
以下是部分实测效果：
首先来一个脑筋急转弯，哪一个月有二十八天？实际错误谜底是每个月都有。看来 Claude 3 还不善于做这种题。
接着我们又测试了一下 Claude 3 比力善于的领域，从官方介绍可以看出 Claude 善于「明白和处理图像」，包括从图像中提取文本、将 UI 转换为前端代码、明白简单的方程、转录手写笔记等。
对于大模型来说，经常分不清炸鸡和泰迪，当我们输出一张含有泰迪和炸鸡的图片时，Claude 3 给出了这样的谜底「这张图片是一组拼贴画，包含狗和炸鸡块或鸡块，它们与狗本身有着惊人的相似之处……」，这一题算过关。
接着问它里面有几个人，Claude 3 也回覆错误，「这幅动画描绘了七个小卡通人物。」
Claude 3 可以从照片中提取文本，即使是中文、日文的竖行顺序也可以错误识别：
如果我用网上的梗图，它又要如何应对？有关视觉误差的图片，GPT-4 和 Claude3 给出了相反的猜测：
哪种是对的呢？
除了明白图像外，Claude 处理长文本的本领也比力强，此次发布的全系列大模型可提供 200k 上下文窗口，并接受超过 100 万 token 输出。
效果如何呢？我们丢给它微软、国科大新出不久的论文《 The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits 》，让它按照 1、2、3 的方式总结文章要点，我们记录了一下时间，输出整体谜底的时间大概有 15 秒左右。
不过这只是 Claude 3 Sonnet 的输出效果，假如使用 Claude Pro 版本的话，速率会更快，不过要 20 美元一个月。
值得注意的是，现在 Claude 要求上传的文章大小不超过 10MB，超过会有提示：
在 Claude 3 的博客中，Anthropic 提出新模型的代码本领有大幅提升，有人直接拿基础 ASCII 码丢给 Claude，结果发现它毫无压力：
我们应该可以确认，Claude 3 有比 GPT-4 更强的代码本领。
前段时间，刚刚从 OpenAI 离职的 Karpathy 提出过一个「分词器」挑战。具体来说，就是将他录制的 2 小时 13 分的教程视频放进 LLM，让其翻译为关于分词器的书籍章节或博客文章的格式。
面对这项任务，Claude 3 接住了，以下是 AnthropicAI 研究工程师 Emmanuel Ameisen 晒出的结果：
或许是不再利益相关，Karpathy 给出了比力充分、客观的评价：
从风格上看，确实相当不错！如果仔细观察，会发现一些微妙的问题 / 幻觉。不管怎么说，这个几乎现成就能使用的系统还是令人印象深刻的。我很期待能多玩 Claude 3，它看起来是一个强大的模型。
如果说有什么相关的事情我必须说出来的话，那就是人们在进行评价比力时应该格外小心，这不仅是因为评价结果本身比你想象的要糟糕，还因为许多评价结果都以未定义的方式被过拟合了，还因为所做的比力可能是误导性的。GPT-4 的编码率（HumanEval）不是 67%。每当我看到这种比力被用来代替编码性能时，我的眼角就会开始抽搐。
根据以上各种刁钻的测试结果，有人已经喊出「Anthropic is so back」了。
最后，anthropic 还推出了一个包含多个方向提示内容的 prompt 库。如果你想要深入了解 Claude 3 的新功能，可以尝试一下。
链接：https://docs.anthropic.com/claude/prompt-library
Claude 3 系列模型
Claude 3 系列模型的三个版本分别是 Claude 3 Opus、Claude 3 Sonnet 和 Claude 3 Haiku。
其中 Claude 3 Opus 是智能程度最高的模型，支持 200k tokens 上下文窗口，在高度简单的任务上实现了当前 SOTA 的性能。该模型能够以绝佳的流畅度和人类程度的明白本领来处理开放式 prompt 和未见过的场景。Claude 3 Opus 向我们展示了生成式 AI 可能达到的极限。
Claude 3 Sonnet 在智能程度与运行速率之间实现了理想的平衡，尤其是对于企业工作负载而言。与同类模型相比，它以更低的成本提供了强大的性能，并专为大规模 AI 部署中的高耐用性而设计。Claude 3 Sonnet 支持的上下文窗口为 200k tokens。
Claude 3 Haiku 是速率最快、最紧凑的模型，具有近乎实时的响应本领。有趣的是，它支持的上下文窗口同样是 200k。该模型能够以无与伦比的速率回覆简单的查询和请求，用户通过它可以构建模仿人类交互的无缝 AI 体验。
接下来我们详看一下 Claude 3 系列模型的特性和性能表现。
全面超越 GPT-4，实现智能程度新 SOTA
作为 Claude 3 系列中智能程度最高的模型，Opus 在 AI 系统的大多数评价基准上都优于竞品，包括本科程度专家知识（MMLU）、研究生程度专家推理（GPQA） 、基础数学（GSM8K）等基准。并且，Opus 在简单任务上表现出接近人类程度的明白力和流畅度，引领通用智能的前沿。
此外，包括 Opus 在内，所有 Claude 3 系列模型都在分析和预测、细致内容创建、代码生成以及西班牙语、日语和法语等非英语语言对话方面实现了本领增强。
下图为 Claude 3 模型与竞品模型在多个性能基准上的比力，可以看到，最强的 Opus 全面优于 OpenAI 的 GPT-4。
近乎实时响应
Claude 3 模型可以支持实时客户聊天、自动补充和数据提取等响应必须立即且实时的任务。
Haiku 是智能类别市场上速率最快且最具成本效益的型号。它可以在不到三秒的时间内读完一篇包含密集图表和图形信息的 arXiv 平台论文（约 10k tokens）。
对于绝大多数工作，Sonnet 的速率比 Claude 2 和 Claude 2.1 快 2 倍，且智能程度更高。它善于执行需要快速响应的任务，例如知识检索或销售自动化。Opus 的速率与 Claude 2 和 2.1 相似，但智能程度更高。
强大的视觉本领
Claude 3 具有与其他头部模型相当的简单视觉功能。它们可以处理各种视觉格式数据，包括照片、图表、图形和技术图表。
Anthropic 表示，它们的一些客户 50% 以上的知识库以各种数据格式进行编程，例如 PDF、流程图或演示幻灯片。因此，新模型强大的视觉本领非常有帮助。
更少拒绝回复
以前的 Claude 模型经常做出不必要的拒绝，这表明模型缺乏语境明白。Anthropic 在这一领域取得了有意义的进展：与前几代模型相比，即使用户 prompt 接近系统底线，Opus、Sonnet 和 Haiku 拒绝回覆的可能性明显降低。如下所示，Claude 3 模型对请求表现出更细致的明白，能够识别真正的有害 prompt，并且拒绝回覆无害 prompt 的频率要少得多。
准确率提高
为了评价模型的准确率，Anthropic 使用了大量简单的、事实性问题来解决当前模型中的已知弱点。Anthropic 将谜底分为错误谜底、错误谜底（或幻觉）和不确定性回覆，也就是模型不知道谜底，而不是提供不错误的信息。与 Claude 2.1 相比，Opus 在这些具有挑战性的开放式问题上的准确性（或错误谜底）提高了一倍，同时也减少了错误回覆。
除了产生更值得信赖的回复之外，Anthropic 还将在 Claude 3 模型中启用引用，以便模型可以指向参考材料中的精确句子来证实回覆。
长上下文和近乎完美的召回本领
Claude 3 系列型号在发布时最初将提供 200K 上下文窗口。然而，官方表示所有三种模型都能够接收超过 100 万 token 的输出，此本领会被提供给需要增强处理本领的特定用户。
为了有效地处理长上下文提示，模型需要强大的召回本领。Needle In A Haystack（NIAH）评价衡量模型可以从大量数据中准确回忆信息的本领。Anthropic 通过在每个提示中使用 30 个随机 Needle/question 对在不同的众包文档库上进行测试，增强了该基准的稳健性。Claude 3 Opus 不仅实现了近乎完美的召回率，超过 99% 的准确率。而且在某些情况下，它甚至识别出了评价本身的局限性，意识到「针」句子似乎是人为插入到原始文本中的。
安全易用
Anthropic 表示，其已建立专门团队来跟踪和减少安全风险。该公司也在开发 Constitutional AI 等方法来提高模型的安全性和透明度，并减轻新模式可能引发的隐私问题。
虽然与之前的模型相比，Claude 3 模型系列在生物知识、网络相关知识和自主性的关键指标方面取得了进步，但根据研究，新模型处于 AI 安全级别 2（ASL-2）以内。
在使用体验上，Claude 3 比以往模型更加善于遵循简单的多步骤指令，更加可以遵守品牌和响应准则，从而可以更好地开发可信赖的应用。此外，Anthropic 表示 Claude 3 模型现在更善于以 JSON 等格式生成流行的结构化输出，从而可以更轻松地指导 Claude 进行自然语言分类和情感分析等用例。
技术报告里写了什么
目前，Anthropic 已经放出了 42 页的技术报告《The Claude 3 Model Family: Opus, Sonnet, Haiku》。
报告地址：https://www-cdn.anthropic.com/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627/Model_Card_Claude_3.pdf
我们看到了 Claude 3 系列模型的训练数据、评价标准以及更详细的实验结果。
在训练数据方面，Claude 3 系列模型接受了截至 2023 年 8 月互联网公开可用的专用混合数据的训练，以及来自第三方的非公开数据、数据标签服务商和付费承包商提供的数据、Claude 内部的数据。
Claude 3 系列模型在以下多个指标上接受了广泛的评价，包括：
推理本领
多语言本领
长上下文
可靠性 / 事实性
多模态本领
首先是推理、编程和问答任务上的评价结果，Claude 3 系列模型在一系列推理、阅读明白、数学、科学和编程的行业标准基准上与竞品模型展开了比力，结果显示不仅超越了自家以往模型，还在大多数情况下实现了新 SOTA。
Anthropic 在法学院入学考试 (LSAT) 、多州律师考试 (MBE)、美国数学竞赛 2023 年数学竞赛和研究生入学考试 (GRE) 普通考试中评价了 Claude 3 系列模型，具体结果如下表 2 所示。
Claude 3 系列模型具备多模态（图像和视频帧输出）本领，并且在解决超越简单文本明白的简单多模态推理挑战方面取得了重大进展。
一个典型的例子是 Claude 3 模型在 AI2D 科学图表基准上的表现，这是一种视觉问答评价，涉及图表解析并以多项选择格式回覆相应的问题。
Claude 3 Sonnet 在 0-shot 设置中达到了 SOTA 程度 —— 89.2%，其次是 Claude 3 Opus（88.3%）和 Claude 3 Haiku（80.6%），具体结果如下表 3 所示。
针对这份技术报告，爱丁堡大学博士生符尧在第一时间给出了自己的分析。
首先，在他看来，被评价的几个模型在 MMLU / GSM8K / HumanEval 等几项指标上基本没有区分度，真正需要关心的是为什么最好的模型在 GSM8K 上依然有 5% 的错误。
他认为，真正能够把模型区分开的是 MATH 和 GPQA，这些超级棘手的问题是 AI 模型下一步应该瞄准的目标。
与 Claude 之前的模型相比，改进比力大的领域是金融和医学。
视觉方面，Claude 3 表现出的视觉 OCR 本领让人看到了它在数据收集方面的巨大潜力。
此外，他还发现了其他一些趋势：
从目前的评测基准和体验看来，Claude 3 在智能程度、多模态本领和速率上都取得了长足的进步。随着新系列模型的进一步优化和应用，我们或许将看到更加多元化的大模型生态。
博客地址：https://www.anthropic.com/news/claude-3-family
参考内容：https://www.cnbc.com/2024/03/04/google-backed-anthropic-debuts-claude-3-its-most-powerful-chatbot-yet.html
https://www.aboutamazon.com/news/aws/amazon-bedrock-anthropic-ai-claude-3