同济大学王昊奋钻研员团队联合复旦大学熊赟教授团队发布检索加强生成（RAG）综述，从核心范式，关键手艺到未来进展趋势对 RAG 举行了全面梳理。这份工作为钻研人员绘制了一幅清晰的 RAG 手艺进展蓝图，指出了未来的钻研探索方向。同时，为开发者提供了参考，帮助辨识不同手艺的优缺点，并指导如何在多样化的运用场景中最有效地利用这些手艺。
大型语言模型（LLMs）已经成为我们生活和工作的一部分，它们以惊人的多功能性和智能化改变了我们与信息的互动方式。
然而，尽管它们的威力令人印象深刻，但它们并非无懈可击。这些模型可能会产生误导性的 “幻觉”，依赖的信息可能过时，处理特定常识时效率不高，缺乏专业领域的深度洞察，同时在推理威力上也有所欠缺。
在现实世界的运用中，数据需要不断更新以反映最新的进展，生成的实质必须是透明可追溯的，以便控制成本并保护数据隐私。因此，简单依赖于这些 “黑盒” 模型是不够的，我们需要更精细的解决方案来满足这些复杂的需求。
正是在这样的背景下，检索加强生成手艺（Retrieval-Augmented Generation，RAG）应时而生，成为 AI 时代的一大趋势。
RAG 通过在语言模型生成答案之前，先从广泛的文档数据库中检索相关信息，然后利用这些信息来引导生成进程，极大地提升了实质的准确性和相关性。RAG 有效地缓解了幻觉课题，提高了常识更新的速度，并加强了实质生成的可追溯性，使得大型语言模型在实际运用中变得更加实用和可信。RAG 的出现无疑是人工智能钻研领域最激动人心的进展之一。
本篇综述将带你全面了解 RAG，深入探讨其核心范式、关键手艺及未来趋势，为读者和实践者提供对大型模型以及 RAG 的深入和系统的认识，同时阐述检索加强手艺的最新进展和关键挑战。
论文原文：https://arxiv.org/abs/2312.10997
官方仓库：https://github.com/Tongji-KGLLM/RAG-Survey
RAG 是什么？
图 1 RAG 手艺在 QA 课题中的案例
一个典型的 RAG 案例如图所示。如果我们向 ChatGPT 询问 OpenAI CEO Sam Atlman 在短短几天内突然解雇随后又被复职的事情。由于受到预训练数据的限制，缺乏对最近事件的常识，ChatGPT 则表示无法回答。RAG 则通过从外部常识库检索最新的文档摘录来解决这一差距。在这个例子中，它获取了一系列与询问相关的新闻文章。这些文章，连同最初的课题，随后被合并成一个丰富的提示，使 ChatGPT 能够综合出一个有根据的回应。
RAG 手艺范式进展
RAG 的概念首次于 2020 年被提出，随后进入高速进展。RAG 手艺的演进历程如图所示，相关钻研进展可以明确地划分为数个关键阶段。在早期的预训练阶段，钻研的焦点集中在如何通过预训练模型注入额外的常识，以此加强语言模型的威力。随着 ChatGPT 的面世，对于运用大型模型举行深层次上下文学习的兴趣激增，这推动了 RAG 手艺在钻研领域的快速进展。随着 LLMs 的潜力被进一步开发，旨在提升模型的可控性并满足不断演变的需求，RAG 的钻研逐渐聚焦于加强推理威力，并且也探索了在微调进程中的各种改进方法。特别是随着 GPT-4 的发布，RAG 手艺经历了一次深刻的变革。钻研重点开始转移至一种新的融合 RAG 和微调策略的方法，并且持续关注对预训练方法的优化。
图 2 RAG 手艺进展的科技树
在 RAG 的手艺进展进程中，我们从手艺范式角度，将其总结成如下几个阶段：
朴素（Naive RAG）
前文案例中展示了经典的 RAG 流程，也被称为 Naive RAG。主要包括包括三个基本步骤：
1. 索引 — 将文档库分割成较短的 Chunk，并通过编码器构建向量索引。
2. 检索 — 根据课题和 chunks 的相似度检索相关文档片段。
3. 生成 — 以检索到的上下文为条件，生成课题的回答。
进阶的 RAG（Advanced RAG）
Naive RAG 在检索质量、响应生成质量以及加强进程中存在多个挑战。Advanced RAG 范式随后被提出，并在数据索引、检索前和检索后都举行了额外处理。通过更精细的数据清洗、设计文档结构和添加元数据等方法提升文本的一致性、准确性和检索效率。在检索前阶段则可以使用课题的重写、路由和扩充等方式对齐课题和文档块之间的语义差异。在检索后阶段则可以通过将检索出来的文档库举行重排序避免 “Lost in the Middle ” 现象的发生。或是通过上下文筛选与压缩的方式缩短窗口长度。
模块化 RAG（Modular RAG）
随着 RAG 手艺的进一步进展和演变，新的手艺突破了传统的 Naive RAG 检索 — 生成框架，基于此我们提出模块化 RAG 的概念。在结构上它更加自由的和灵活，引入了更多的具体功能模块，例如查询搜索引擎、融合多个回答。手艺上将检索与微调、强化学习等手艺融合。流程上也对 RAG 模块之间举行设计和编排，出现了多种的 RAG 模式。然而，模块化 RAG 并不是突然出现的，三个范式之间是继承与进展的关系。Advanced RAG 是 Modular RAG 的一种特例形式，而 Naive RAG 则是 Advanced RAG 的一种特例。
图 3 RAG 范式对比图
如何举行检索加强？
RAG 系统中主要包含三个核心部分，分别是 “检索”，“加强” 和 “生成”。正好也对应的 RAG 中的三个首字母。想要构建一个好的 RAG 系统，加强部分是核心，则需要考虑三个关键课题：检索什么？什么时候检索？怎么用检索的实质？
检索加强的阶段：在预训练、微调和推理三个阶段中都可以举行检索加强，这决定了外部常识参数化程度的高低，对应所需要的计算资源也不同。
检索加强的数据源：加强可以采用多种形式的数据，包括非结构化的文本数据，如文本段落、短语或单个词汇。此外，也可以利用结构化数据，比如带有索引的文档、三元组数据或子图。另一种途径是不依赖外部信息源，而是充分发挥 LLMs 的内在威力，从模型自身生成的实质中检索。
检索加强的进程：最初的检索是一次性进程，在 RAG 进展进程中逐渐出现了迭代检索、递归检索以及交由 LLMs 自行判断检索时刻的自适应检索方法。
图 4 RAG 核心组件的分类体系
RAG 和微调应该如何选择？
除了 RAG，LLMs 主要优化手段还包括了提示工程 (Prompt Engineering)、微调 (Fine-tuning，FT)。他们都有自己独特的特点。根据对外部常识的依赖性和模型调整要求上的不同，各自有适合的场景。
RAG 就像给模型一本教科书，用于定制的信息检索，非常适合特定的查询。另一方面，FT 就像一个学生随着时间的推移内化常识，更适合模仿特定的结构、风格或格式。FT 可以通过加强基础模型常识、调整输出和教授复杂指令来提高模型的性能和效率。然而，它不那么擅长整合新常识或快速迭代新的用例。RAG 和 FT，并不是相互排斥的，它们可以是互补的，联合使用可能会产生最佳性能。
图 5 RAG 与其他大模型微调手艺对比
如何评价 RAG？
RAG 的评价方法多样，主要包括三个质量评分：上下文相关性、答案忠实性和答案相关性。此外，评价还涉及四个关键威力：噪声鲁棒性、拒答威力、信息整合和反事实鲁棒性。这些评价维度结合了传统量化指标和针对 RAG 特性的专门评价标准，尽管这些标准尚未统一。
在评价框架方面，存在如 RGB 和 RECALL 这样的基准测试，以及 RAGAS、ARES 和 TruLens 等自动化评价工具，它们有助于全面衡量 RAG 模型的表现。表中汇总了如何将传统量化指标运用于 RAG 评价以及各种 RAG 评价框架的评价实质，包括评价的对象、维度和指标，为深入理解 RAG 模型的性能和潜在运用提供了宝贵信息。
未来 RAG 还有哪些进展前景？
RAG 的进展方兴未艾，还有哪些课题值得进一步去钻研？我们从三个方面举行展望：
1.RAG 的垂直优化
垂直优化旨在进一步解决 RAG 当前面临的挑战；
长下文长度。检索实质过多，超过窗口限制怎么办 ？如果 LLMs 的上下文窗口不再受限制，RAG 应该如何改进？
鲁棒性。检索到错误实质怎么处理？怎么对检索出来实质举行过滤和验证？怎么提高模型抗毒、抗噪声的威力。
与微调协同。如何同时发挥 RAG 和 FT 的效果，两者怎么协同，怎么组织，是串行、交替还是端到端？
Scaling-Law：RAG 模型是否满足 Scaling Law？RAG 是否会，或是在什么场景下会出现 Inverse Scaling Law 的现象？
LLM 的角色。LLMs 可以用于检索（用 LLMs 的生成代替检索或检索 LLMs 记忆）、用于生成、用于评价。如何进一步挖掘 LLMs 在 RAG 中的潜力？
工程实践。如何降低超大规模语料的检索时延？如何保证检索出来实质不被大模型泄露？
2. RAG 的多模态的拓展
如何将 RAG 不断进展的手艺和思想拓展到图片、音频、视频或代码等其他模态的数据中？一方面可以加强单一模态的任务，另一方面可以通过 RAG 的思想将多模态举行融合。
3. RAG 的生态
RAG 的运用已经不仅仅局限于问答系统，其影响力正在扩展到更多领域。现在，推荐系统、信息抽取和报告生成等多种任务都开始受益于 RAG 手艺的运用。与此同时，RAG 手艺栈也在井喷。除了已知的 Langchain 和 LlamaIndex 等工具，市场上涌现出更多针对性的 RAG 工具，例如：用途定制化，满足更加聚焦场景的需求；使用简易化，进一步降低上手门槛的；功能专业化，逐渐面向生产环境。
图 6 RAG 的生态系统概览
更多详细实质，请参考原论文。