在生成式 AI 领域，众多科技巨头和初创企业的技能落地才能正在吸引关注。近日，亚马逊云科技在北京分享了自身在生成式 AI 领域的最新进展。
「从模型才能到真正的运营生产之间，企业还必要增加很多辅助才能，」亚马逊云科技大中华区产品部总经理陈晓建在活动中说道。「Amazon Bedrock 供应一系列广泛的才能，如预置吞吐量功能以保障交易拥有稳定独享的底层资源，模型微调可能将自身的交易数据与大模型快速从事结合，以及可能全面监管大模型的 Guardrails 功能等，这些工程化的才能，是企业在生产环境中一定会必要的。」
生成式 AI 爆发至今已有一年多的时间，在技能突破后，亚马逊云科技积极与根基模型公司从事合作。由于分歧行业的场景需求差别很大，没有一个大模型可以胜任所有场景。鉴于此，亚马逊云科技在生成式 AI 领域为客户供应了三层架构。
・ 其中最底层是高性能根基设施，亚马逊云科技供应面向 AI 优化的根基算力，包括英伟达最新推出的 GH200 芯片，以及投入大量资源研发的自研芯片，包括用于训练的 Amazon Trainium，推理芯片 Amazon Inferentia。亚马逊云科技也构建了用于训练和推理的平台 Amazon Sagemaker。
・ 中间层是鉴于 Amazon Bedrock 最广泛的根基模型选择，这些模型来自多个领先的供应商，客户可以在此根基上从事定制，同时保持自身的数据私有和安全，并与其他在亚马逊云科技上的工作负载无缝集成。
・ 最上层的则是应用 GenAI 技能的开箱即用的云服务。包括生成式 AI 助手 Amazon Q、面向编程开发人员的平台 Amazon CodeWhisperer 等产品，撑持分歧客户的交易需求。
通过这三层架构，不论是具有技能根基的大型科技公司，还是仅有几人的创业公司，分歧的客户都可以根据需求构建起生成式 AI 才能以撑持自身交易。
在该体系中，Amazon Bedrock 因为不断接入众多业界知名大模型而经常被人提起。
Amazon Bedrock 是亚马逊云科技的一项完全托管服务，供应安全且便捷的方式，让用户可能访问大量完全托管的根基模型（FM）。结合其推出的一系列前沿功能，如检索增强生成（RAG）、Guardrails、模型评估以及 AI 驱动的智能代理（Agent）等，Amazon Bedrock 旨在帮助用户打造高性能、低延迟且具成本效益的生成式 AI 应用程序。
由于「没有一个模型可以适用于所有交易场景」，Amazon Bedrock 旨在供应分歧的根基模型供客户选择：其中既有知名的开源模型，如 Stable Diffusion XL、Llama、Mistral 7B 和 Mixtral 8×7B，也有如 Anthropic Claude 3、AI21labs Jurassic、Cohere Command、Amazon Titan 等非开源模型。
Anthropic 是亚马逊的重点合作伙伴，这家创业公司成立于 2021 年，其推出的 Claude 大模型系列被认为是 GPT-4 的重要竞品。亚马逊与它的合作紧密，在去年 9 月份宣布了高达 40 亿美元的投资。
Claude 大模型的最新第三代在上个月刚刚推出，其分为三个版本，分别是 Haiku、Sonnet、Opus 三款模型，均已经或即将在 Amazon Bedrock 上供应。
Claude 3 的三个体量模型分别适用于分歧产品，它们在复杂任务重表现出的理解才能，逻辑性、速度等在业内领先。可以看到， Claude 3 大模型的百万 token 价格在业内是非常低的。
Anthropic 表示，Claude 3 Opus 拥有人类本科生水平的知识。Claude 3 在（斯坦福 100Q Hard）上准确性明显提升，减少了错误答案和幻觉。
它撑持 200k token 的超长文本召回。在大海捞针实验中拥有良好性能，展示了 AI 可以鉴别超长内容中的逻辑的才能。
此外，Claude 3 首次带来了对多模态才能的撑持，用户现在可以上传照片、图表、文档和其他类型的非结构化数据，让 AI 从事分析和解答。
在活动中，亚马逊云科技展示了 Claude 3（Sonnet）的一系列才能。如黄仁勋在英伟达 GTC 上 keynote 的解读和续写：
在流浪地球中插入一句三体的内容，让大模型从事鉴别：
Claude 3 也能准确地鉴别出来。
亚马逊云科技表示，很快 Claude3 的「超大杯」版本也将登录 Amazon Bedrock。
大模型正在改造应用的多种使用方式，我们正在看见这件事正在发生。在活动中，亚马逊云科技表示大模型已被融入到自身交易中，其在电商领域推出了鉴于生成式 AI 的专业购物助理 Rufus，它可能鉴于人的习惯，通过自然语言与客户从事沟通。
例如，你在购买时必要考虑哪些因素？如果我必要购买一辆自行车，那么在冬天骑车时必要注意什么，以及可以购买什么样的配件等。
新系统在通过自然语言实现与人自然交互的同时，背后还可能根据亚马逊电商的庞大知识库实现准确的问答。通过这个才能，电商能与客户从事全方位的自然语言沟通。这是一个把大模型技能与核心交易相结合的典型案例。同样的事，也会很快推广到更多客户的交易当中。
在生成式 AI 时代，亚马逊云科技一直在做「最后三公里」的撑持。
为了更好地利用已有数据根基，使用技能领先的工具，面对复杂的客户场景，亚马逊云科技供应了本地化的撑持团队，希望与用户共同寻找场景和解决方案。在生成式 AI 时代，这或许会是技能可能快速落地的正确方式。
「尽管大模型非常重要，但仅靠大模型对你的生产是远远不够的。企业必要一系列周边的才能来正确、合理、安全、高效地使用大模型，这就是亚马逊云科技一系列产品所供应的价值所在，」陈晓建表示。