AI在线 AI在线

检索增强生成

基于代理知识蒸馏技术克服文档提取和RAG策略失败问题

基于代理知识蒸馏技术克服文档提取和RAG策略失败问题
译者 | 朱先忠审校 | 重楼简介当下，许多生成式AI应用场景仍然围绕检索增强生成（RAG）展开，但始终未能满足用户的期望。 尽管对RAG改进的研究越来越多，甚至在流程中添加了代理技术，但许多解决方案仍然无法返回详尽的结果，遗漏了文档中很少提及的关键信息，需要多次搜索迭代，并且通常难以协调多个文档中的关键主题。 最糟糕的是，许多实现方案仍然依赖于将尽可能多的“相关”信息与详细的系统和用户提示一起塞入模型的上下文窗口。
3/24/2025 8:20:39 AM
朱先忠
详解RAG应用开发幻觉检测利器LettuceDetect​

详解RAG应用开发幻觉检测利器LettuceDetect​
译者 | 朱先忠审校 | 重楼简介最近，我们团队推出了LettuceDetect框架，这是一款用于检索增强生成（RAG）开发管道的轻量级幻觉检测器。 它是一种基于ModernBERT模型构建的基于编码器的模型，根据MIT许可证发布，带有现成的Python包和预训练模型。 是什么：LettuceDetect是一个标记级检测器，可标记LLM回答中不受支持的片段。
3/19/2025 8:43:17 AM
朱先忠
GitHub 上流行的 RAG 框架介绍及优缺点分析

GitHub 上流行的 RAG 框架介绍及优缺点分析
随着大型语言模型在自然语言处理中的广泛应用，其固有的知识截止和“幻觉”问题逐渐暴露。 为了解决这些问题，检索增强生成（Retrieval-Augmented Generation，简称 RAG） 技术应运而生。 RAG 通过将外部知识库中的相关信息检索出来，并将这些信息融合到生成过程的上下文中，从而大幅提高了回答的准确性、时效性以及上下文一致性。
2/27/2025 9:00:00 AM
构建一个完全本地的语音激活的实用RAG系统

构建一个完全本地的语音激活的实用RAG系统
译者 | 布加迪审校 | 重楼本文将探讨如何构建一个RAG系统并使其完全由语音激活。 RAG（检索增强生成）是一种将外部知识用于额外上下文以馈入到大语言模型（LLM），从而提高模型准确性和相关性的技术。 这是一种比不断微调模型可靠得多的方法，可以改善生成式AI的结果。
2/24/2025 8:39:08 AM
布加迪
检索增强生成（RAG）过时了，缓存增强生成（CAG）上位

检索增强生成（RAG）过时了，缓存增强生成（CAG）上位
译者 | 布加迪审校 | 重楼检索增强生成（RAG）已成为为定制信息定制大语言模型（LLM）的事实上的方法。 然而RAG带来了前期技术成本，并且速度可能很慢。 由于长上下文LLM方面取得的进步，企业可以通过在提示中插入所有的专有信息来绕过RAG。
2/11/2025 8:00:00 AM
布加迪
减少LLM幻觉的五大技巧和方法

减少LLM幻觉的五大技巧和方法
译者 | 布加迪审校 | 重楼本文介绍了使用LangGraph减少LLM幻觉的简单技巧。 如果你使用过LLM，就知道它们有时会产生幻觉。 这意味着它们生成的文本要么毫无意义，要么与输入数据相矛盾。
12/31/2024 8:03:12 AM
布加迪
深度解析RAG大模型知识冲突，清华西湖大学港中文联合发布

深度解析RAG大模型知识冲突，清华西湖大学港中文联合发布
AIxiv专栏是AI在线发布学术、技术内容的栏目。过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]本文章的作者为清华大学交叉信息院二年级硕士生许融武和一年级博士生祁泽涵，他们也是本篇综述的的主要作者。随着人工智能和大型模型技术的迅猛发展，检索增强生成（Retrieval-Augment
7/10/2024 2:34:00 PM
机器之心
谷歌10M上下文窗口正在杀死RAG？被Sora夺走风头的Gemini被低估了？

谷歌10M上下文窗口正在杀死RAG？被Sora夺走风头的Gemini被低估了？
RAG 还有存在的必要吗？要说最近最郁闷的公司，谷歌肯定算得上一个：自家的 Gemini 1.5 刚刚发布，就被 OpenAI 的 Sora 抢尽了风头，堪称 AI 界的「汪峰」。具体来说，谷歌这次推出的是用于早期测试的 Gemini 1.5 的第一个版本 ——Gemini 1.5 Pro。它是一种中型多模态模型（涉及文本、视频、音频），性能水平与谷歌迄今为止最大的模型 1.0 Ultra 类似，并引入了长上下文理解方面的突破性实验特征。它能够稳定处理高达 100 万 token（相当于 1 小时的视频、11 小时
2/27/2024 2:55:00 PM
机器之心
专补大模型短板的RAG有哪些新进展？这篇综述讲明白了

专补大模型短板的RAG有哪些新进展？这篇综述讲明白了
同济大学王昊奋研究员团队联合复旦大学熊赟教授团队发布检索增强生成（RAG）综述，从核心范式，关键技术到未来发展趋势对 RAG 进行了全面梳理。这份工作为研究人员绘制了一幅清晰的 RAG 技术发展蓝图，指出了未来的研究探索方向。同时，为开发者提供了参考，帮助辨识不同技术的优缺点，并指导如何在多样化的应用场景中最有效地利用这些技术。大型语言模型（LLMs）已经成为我们生活和工作的一部分，它们以惊人的多功能性和智能化改变了我们与信息的互动方式。然而，尽管它们的能力令人印象深刻，但它们并非无懈可击。这些模型可能会产生误导性
1/8/2024 11:27:00 AM
机器之心
用检索增强生成让大模型更强大，这里有个手把手的Python实现

用检索增强生成让大模型更强大，这里有个手把手的Python实现
自从人们认识到可以使用自己专有的数据让大型语言模型（LLM）更加强大，人们就一直在讨论如何有效地将 LLM 的一般性知识与专有数据整合起来。对此人们也一直在争论：微调和检索增强生成（RAG）哪个更合适？本文首先将关注 RAG 的概念和理论。然后将展示可以如何使用用于编排（orchestration）的 LangChain、OpenAI 语言模型和 Weaviate 向量数据库来实现一个简单的 RAG。检索增强生成是什么？检索增强生成（RAG）这一概念是指通过外部知识源来为 LLM 提供附加的信息。这让 LLM 可以
11/21/2023 11:31:00 AM
机器之心
  • 1