Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

Anthropic 公司最新推出了名为“Citations”(引用)的 API,顾名思义,该功能可以为 AI 生成的内容提供参考来源,并嵌入原始文件链接。该功能已在 Anthropic 的 API 和 Google Cloud 的 Vertex AI 平台上上线。

Anthropic 公司最新推出了名为“Citations”(引用)的 API,顾名思义,该功能可以为 AI 生成的内容提供参考来源,并嵌入原始文件链接,将 AI 答案关联用户提供的文档(例如电子邮件或 PDF)。该功能已在 Anthropic 的 API 和 Google Cloud 的 Vertex AI 平台上上线。

Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

AI在线注:开发者目前依赖复杂的提示词,在 AI 输出中嵌入引用,这种方法通常会导致结果不一致,并且对提示工程的需求很高。

“Citations”简化了这一过程,允许开发者直接在 API 的上下文窗口中附加源文档。Claude 会自动在其回复中引用这些来源中的相关句子和部分,从而降低幻觉风险并提高问责性。

“Citations” API 无需定制提示工程,针对 AI 生成的内容,可以精准链接到源文件中的特定句子和段落,从而简化了开发流程。内部评估显示,“Citations”相比自定义实现方案,召回准确率(recall accuracy)最高提升 15%。

相关资讯

Anthropic CEO:AI 可能在两到三年内超越人类智能

对于 AI 的发展前景,阿莫代伊表示,他“相对有信心”认为 AI 技术将在两到三年内超越人类智能。“这将带来深远的积极影响。但同时我们也需要关注潜在风险。我认为 AI 发展的速度确实如外界预期的那样快。”

Anthropic 的“双标”:一边推大模型助沟通,一边拒求职者用 AI

在 Anthropic 公司的网站“客户案例”页面上,有大量报道称许多企业正在使用 Anthropic 的大语言模型 Claude,以帮助员工更有效地沟通。然而,在 Anthropic 自己的员工招聘流程中,该公司却礼貌地请求求职者“请…… 不要使用人工智能助手”,以便 Anthropic 能够评估他们“不借助人工智能辅助的沟通能力”。

亚马逊向人工智能公司 Anthropic 追加 27.5 亿美元投资,总投资额达 40 亿美元

感谢亚马逊宣布向人工智能公司 Anthropic 追加 27.5 亿美元投资,这笔投资是继去年 12.5 亿美元的投资之后的追加注资,使亚马逊对 Anthropic 的总投资额达到 40 亿美元(IT之家备注:当前约 289.6 亿元人民币)。作为投资协议的一部分,亚马逊获得了 Anthropic 的少数股权,并能够参与公司的发展方向制定。此外,亚马逊还将 Anthropic 的模型纳入 Amazon Bedrock 服务。Amazon Bedrock 是亚马逊云科技 (AWS) 提供的一项全托管服务,可帮助开发人