Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

Anthropic 公司最新推出了名为“Citations”(引用)的 API,顾名思义,该功能可以为 AI 生成的内容提供参考来源,并嵌入原始文件链接。该功能已在 Anthropic 的 API 和 Google Cloud 的 Vertex AI 平台上上线。

Anthropic 公司最新推出了名为“Citations”(引用)的 API,顾名思义,该功能可以为 AI 生成的内容提供参考来源,并嵌入原始文件链接,将 AI 答案关联用户提供的文档(例如电子邮件或 PDF)。该功能已在 Anthropic 的 API 和 Google Cloud 的 Vertex AI 平台上上线。

Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

AI在线注:开发者目前依赖复杂的提示词,在 AI 输出中嵌入引用,这种方法通常会导致结果不一致,并且对提示工程的需求很高。

“Citations”简化了这一过程,允许开发者直接在 API 的上下文窗口中附加源文档。Claude 会自动在其回复中引用这些来源中的相关句子和部分,从而降低幻觉风险并提高问责性。

“Citations” API 无需定制提示工程,针对 AI 生成的内容,可以精准链接到源文件中的特定句子和段落,从而简化了开发流程。内部评估显示,“Citations”相比自定义实现方案,召回准确率(recall accuracy)最高提升 15%。

相关资讯

Anthropic发布Citations功能,助力开发者获取AI生成答案的来源文献

为了加强其AI模型的透明性和可追溯性,Anthropic于周四宣布推出一项新功能——Citations。 该功能旨在帮助开发者在通过Claude AI系列生成的答案中,提供来自源文档的精确引用,包括句子和段落。 这一创新功能首次推出后,立即在Anthropic的API和Google的Vertex AI平台上提供支持。

Anthropic CEO:AI 可能在两到三年内超越人类智能

对于 AI 的发展前景,阿莫代伊表示,他“相对有信心”认为 AI 技术将在两到三年内超越人类智能。“这将带来深远的积极影响。但同时我们也需要关注潜在风险。我认为 AI 发展的速度确实如外界预期的那样快。”

Anthropic 的“双标”:一边推大模型助沟通,一边拒求职者用 AI

在 Anthropic 公司的网站“客户案例”页面上,有大量报道称许多企业正在使用 Anthropic 的大语言模型 Claude,以帮助员工更有效地沟通。然而,在 Anthropic 自己的员工招聘流程中,该公司却礼貌地请求求职者“请…… 不要使用人工智能助手”,以便 Anthropic 能够评估他们“不借助人工智能辅助的沟通能力”。