当前位置：首页 > article >正文

高级RAG技巧(二)

article 2025/1/6 8:26:50

检索增强生成 (RAG)将文档检索与自然语言生成相结合，创建更准确、更具情境感知的响应。

虽然基本 RAG 很有效，但它在处理复杂查询、幻觉以及在多轮对话中维持上下文方面存在困难。

在这篇博客中，我将探索通过提高检索准确性、生成质量和整体系统性能来应对这些挑战的先进技术。

如果您正在阅读本文以准备面试，请务必查看“ RAG 面试前 30 个问题及答案”文章。

基本 RAG 系统的局限性
虽然基本的 RAG 实现很有用，但它们也有其局限性，尤其是在应用于更苛刻的环境中时。

幻觉
最突出的问题之一是幻觉，即模型生成的内容与事实不符或与检索到的文档不符。这可能会破坏系统的可靠性，尤其是在医学或法律等对准确性要求较高的领域。

缺乏领域特异性
标准 RAG 模型在处理特定领域的查询时可能会遇到困难。如果不根据专业领域的细微差别定制检索和生成过程，系统可能会检索不相关或不准确的信息。

处理复杂或多轮对话
另一个挑战是管理复杂的多步骤查询或多轮对话。基本的 RAG 系统通常难以在交互过程中保持上下文，导致答案脱节或不完整。随着用户查询变得越来越复杂，RAG 系统需要不断发展以应对这种日益复杂的情况。

基本 RAG 系统：起伏

使用 napkin.ai 生成的图表

高级检索技术
高级检索技术侧重于增强检索文档的相关性和范围。这些技术包括密集检索、混合搜索、重新排序和查询扩展，解决了基于关键字的检索的局限性。

密集检索和混合搜索
密集检索和混合搜索是提高检索准确率和相关性的关键技术。当查询的表述与文档不同时，TF-IDF 或 BM25 等方法通常难以理解语义。

密集检索，例如 DPR（密集段落检索），使用深度学习将查询和文档映射到密集向量表示中，捕捉精确关键字之外的文本含义。

混合搜索融合了稀疏和密集检索，通过结合基于关键字的匹配和语义相似性来平衡精度和召回率，使其能够有效地处理更复杂的查询。

重新排序
重新排序是另一种高级技术，用于在将检索到的文档列表传递到生成组件之前对其进行细化。在典型的 RAG 系统中，初始检索阶段可能会生成大量相关性各异的文档。

重新排序的作用是重新排列这些文档，以便语言模型优先使用最相关的文档。重新排序可以从基于查询文档相似度的简单评分实现，到经过训练以预测每个文档相关性的更复杂的机器学习模型。

您可以在有关使用 RankGPT 进行重新排名的本教程中了解如何实现重新排名。

查询扩展
查询扩展涉及使用附加术语丰富用户的查询，以增加检索相关文档的机会。它可以通过以下方式实现：

同义词扩展：在原始查询中添加同义词或密切相关的术语，以捕获可能使用不同措辞但传达相似含义的文档。
概念扩展：扩展查询以包括更广泛或相关的概念，这可以帮助显示更加多样化但相关的文档。
例如，如果原始查询是“医疗保健中的人工智能”，则查询扩展可能包括“人工智能”、“机器学习”或“健康科技”等相关术语，从而确保更广泛的检索网络。

优化 RAG 系统中的相关性和质量
在 RAG 系统中，仅仅检索文档是不够的，确保这些文档的相关性和质量是改善最终输出的关键。为此，改进和过滤检索内容的高级技术至关重要。

这些方法可以减少噪音，提高相关性，并将语言模型集中在生成过程中最重要的信息上。

高级过滤技术
高级过滤技术使用元数据或基于内容的规则来排除不相关或低质量的文档，确保只传递最相关的结果。

基于元数据的过滤：可以根据元数据（如日期、作者、域或文档类型）过滤文档。在法律或医学应用中，这可以确保仅使用最新或权威的来源。
基于内容的过滤：评估文档本身的内容，应用规则排除那些不满足特定相关性阈值的文档。它还可能涉及过滤掉与查询语义相似度较低的文档或不包含与查询相关的关键短语或术语的文档。
上下文提炼
上下文提炼是总结或压缩检索到的文档的过程，以使语言模型专注于最重要的信息。当检索到的文档包含太多不相关的内容或查询涉及复杂的多步骤推理时，这种方法非常有用。

通过提炼上下文，系统从检索到的文档中提取关键见解和最相关的段落，确保语言模型具有最清晰、最相关的信息。

发电过程优化
检索并完善相关文档后，RAG 系统的下一步就是生成过程。优化语言模型生成响应的方式对于确保准确性、连贯性和相关性至关重要。

及时工程
提示工程是指设计和构建输入语言模型的提示的过程。提示的质量直接影响模型生成的输出的质量，因为提示为生成任务提供了初始指令或上下文。

为 RAG 提供快速工程设计

使用 napkin.ai 生成的图表

为了优化提示，开发人员可以尝试几种不同的方法。

提供更多背景信息
添加其他信息（例如明确说明或关键词）可以引导模型做出更准确、更符合语境的响应。例如，在医疗 RAG 系统中，提示可能会明确要求模型根据检索到的文档提供诊断摘要。

构建查询以提高清晰度
结构良好的提示，加上清晰简洁的说明，有助于减少歧义，并带来更有针对性的生成结果。将提示表述为直接的问题或请求通常可以产生更好的结果。

测试不同的提示格式
迭代提示格式（例如重新措辞问题、调整具体程度或提供示例）可以帮助确定为特定用例提供最佳结果的格式。

在此博客中了解更多信息：提示优化技术。

多步推理
许多查询，特别是在研究、法律或技术支持等领域，涉及多个步骤或需要复杂的推理。多步骤推理是系统将复杂查询分解为可管理的子任务并按顺序处理它们以得出综合答案的过程。

我们可以通过多种方式在 RAG 系统中实现多步骤推理：

链接检索和生成：在某些情况下，可以通过将检索和生成步骤链接在一起来实现多步骤推理。处理初始查询后，系统可能会生成后续查询或在生成最终答案之前请求其他信息。
合并中间步骤：对于需要跨多个文档或主题进行推理的查询，系统可能会为每个步骤检索不同的文档集，逐步建立更细致、更完整的答案。
多跳问答：这种方法允许系统在检索到的不同信息之间建立逻辑连接，使其能够处理涉及各种事实或数据点之间关系的更复杂的查询。
解决幻觉
如上所述，生成模型（包括 RAG 系统中使用的模型）面临的主要挑战之一是幻觉。有几种技术可以帮助缓解 RAG 系统中的幻觉：

基于检索到的文档：减少幻觉的最有效方法之一是确保生成模型紧密基于检索到的内容。这意味着调整模型以仅根据文档中的实际内容生成响应，而不是依赖外部的、预先训练的知识。
上下文调节：通过改进向模型提供上下文的方式，开发人员可以更好地控制生成过程。这可能涉及在将检索到的文档传递给模型之前过滤掉不相关的部分，或者提供指导模型关注关键信息的特定指令。
反馈循环：实施反馈机制，系统根据检索到的文档检查生成的输出是否准确，这有助于在幻觉到达用户之前发现它们。这一额外的验证步骤可以显著提高系统的可靠性。
处理复杂的查询和对话
随着 RAG 系统越来越多地应用于现实世界的任务，它们必须能够处理复杂、多轮交互和模糊查询。

管理多轮对话
对话式 RAG 系统面临的主要挑战之一是管理跨多个交互的信息流。在许多日常场景中，例如客户支持或正在进行的技术讨论，用户经常进行多轮对话，其中必须在多个交流中保持上下文一致。

让系统跟踪并记住对话的相关部分是提供连贯一致的响应的关键。为了有效地处理多轮对话，RAG 系统可以使用以下技术：

对话历史跟踪：维护对话历史的结构化表示起着重要作用。这可能涉及保存关键交互，例如先前的查询和生成的响应，以便在后续回合中用作背景。
上下文窗口：使用随着对话的进展而动态更新的上下文窗口，系统可以专注于交互中最相关的部分。通过将对话历史的范围限制在最近或关键的交流中，系统可以保持专注，而不会让生成模型被过多的信息所淹没。
基于检索的记忆：对于特别复杂或较长的对话，RAG 系统可以实现基于检索的记忆机制。这种方法允许系统在需要时有选择地检索对话历史记录的相关部分，确保仅将最相关的上下文传递给语言模型。
处理模糊或复杂的查询
用户查询并不总是直截了当的，很多时候，它们可能模糊、不明确或涉及复杂的推理，这对 RAG 系统的能力提出了挑战。

通过澄清消除歧义
解决歧义的一种方法是提示系统向用户寻求澄清。例如，如果查询太模糊，系统可以生成后续问题，要求提供更多细节。这种交互过程有助于在继续检索和生成阶段之前缩小用户的意图。

灵活的查询处理
对于涉及多个方面或子主题的复杂查询，系统可以将查询分解为更小、更易于管理的部分。这涉及分阶段检索信息，每个阶段处理查询的特定方面。然后，从多个检索和生成步骤合成最终输出，确保查询的所有组成部分都得到解决。

使用上下文线索
为了处理歧义，系统可以使用查询或对话历史记录中的上下文线索。通过分析以前的交互或相关主题，RAG 系统可以更准确地推断用户的意图，从而降低生成不相关或不正确响应的可能性。

针对复杂查询的高级检索技术
对于特别具有挑战性的查询，RAG 系统可以实施先进的检索方法，例如多跳问答，其中系统从多个文档中检索信息并在它们之间建立逻辑连接以回答复杂的查询。

应对常见的 RAG 挑战
虽然 RAG 系统为信息检索和文本生成提供了强大的解决方案，但它们也带来了需要解决的特定挑战。

处理发电中的偏见
语言模型（包括 RAG 系统中使用的模型）中的偏见是一个众所周知的问题，它会对生成的输出的公平性和准确性产生负面影响。偏见可以通过检索和生成阶段进入系统，导致输出结果出现偏差或歧视，这些偏差或歧视反映了底层数据集中存在的社会、文化或领域特定偏见。

为了减轻 RAG 系统中的偏见，我们可以采用以下几种策略：

偏见感知检索：当检索到的文档不成比例地代表某些观点、人口统计或观点时，检索阶段可能会出现偏见。通过应用过滤技术来确保检索到的文档的多样性，例如根据作者、日期范围或地理位置平衡来源，RAG 系统可以降低出现偏见检索的可能性。
生成过程中的公平性：如果语言模型是在包含偏见内容的数据上训练的，或者模型会放大某些观点而忽略其他观点，则生成阶段可能会出现偏见。缓解这种情况的一种方法是在旨在最大程度减少偏见的精选数据集上对模型进行微调，确保生成的响应尽可能中立和公平。
生成后过滤：实施后处理步骤，分析生成的输出是否存在偏见或有害内容，可以进一步减少偏见。这些过滤器可以在向用户呈现问题输出之前对其进行标记或修改，确保最终输出符合公平标准。
计算开销
随着 RAG 系统变得越来越复杂，集成了先进的检索和生成技术，计算需求也随之增加。这一挑战体现在模型大小、处理速度和延迟等方面，所有这些都会影响系统的效率和可扩展性。

为了管理计算开销，开发人员可以采用以下优化措施：

高效的检索技术：通过使用更高效的索引和搜索算法（例如近似最近邻）优化检索阶段可以大大减少定位相关文档所需的时间和资源。
模型压缩和优化：RAG 系统中使用的语言模型计算量巨大，尤其是在处理大规模或特定领域的查询时。可以使用模型提炼、量化和修剪等技术来减少这些模型的大小和计算成本，而不会牺牲太多性能。
数据限制
RAG 系统在很大程度上依赖于其检索和生成的数据的质量和范围。在特定领域的应用中，数据限制可能是一个重大挑战，尤其是当可用的训练数据不足、过时或质量低下时。

我们可以通过一些方法解决 RAG 系统中的数据限制。

数据增强
当特定领域的训练数据有限时，数据增强技术可以帮助人为地扩展数据集。这可以包括生成合成数据、解释现有文档或使用外部来源来补充原始数据集。数据增强可确保模型能够访问更广泛的示例，从而提高其处理各种查询的能力。

领域适应
在小型、特定领域的数据集上微调预训练语言模型可以帮助 RAG 系统适应专门的用例，即使数据有限。领域适应性使模型能够更好地理解行业特定的术语和细微差别，从而提高生成的响应的质量。

主动学习
在高质量训练数据稀缺的情况下，可以采用主动学习来迭代改进数据集。通过识别最具信息量的数据点并将注释工作重点放在这些数据点上，开发人员可以逐步增强数据集，而无需从一开始就需要大量标记数据。

在 RAG 中实现高级技术
在 RAG 系统中实施先进技术需要对可用的工具、框架和策略有深入的了解。随着这些技术变得越来越复杂，利用专门的库和框架可以简化集成复杂的检索和生成工作流程。

工具和库
许多框架和库已经出现，以支持高级 RAG 技术的实施，为开发人员和研究人员提供模块化和可扩展的解决方案。这些工具通过提供用于检索、排名、过滤和生成的组件来改进构建 RAG 系统的过程。

朗链
LangChain 是一个流行的框架，专门用于处理语言模型并将其与外部数据源集成。它支持高级检索增强技术，包括文档索引、查询和链接不同的处理步骤（检索、生成和推理）。

LangChain还提供与矢量数据库和各种检索器的开箱即用集成，使其成为构建自定义 RAG 系统的多功能选项。

在本课程中了解有关 LangChain 和 RAG 的更多信息：使用 LangChain 构建 RAG 系统

草垛
Haystack 是一个开源框架，专门用于构建用于生产的 RAG 系统。它提供用于密集检索、文档排名和过滤以及自然语言生成的工具。

Haystack 在需要特定领域搜索、问答或文档摘要的应用程序中尤其强大。通过支持各种后端并与流行的语言模型集成，Haystack 简化了 RAG 系统在实际场景中的部署。

OpenAI API
OpenAI API允许开发人员将强大的语言模型（例如 GPT-4）集成到 RAG 工作流中。虽然 OpenAI 的模型并非专门用于检索增强任务，但可以与检索框架结合使用，根据检索到的信息生成响应，从而实现高级生成功能。

实施策略
要将先进的技术集成到现有的 RAG 系统中，必须遵循结构化方法。

选择正确的框架
首先选择符合您用例的框架或库。例如，如果您需要具有密集检索功能的高度可扩展系统，那么 LangChain 或 Haystack 等框架是理想的选择。

设置文档检索
第一步是设置检索组件，其中包括索引数据源和配置检索方法。根据您的用例，您可以选择密集检索（使用向量嵌入）或混合搜索（结合稀疏和密集方法）。例如，可以使用 LangChain 或 Haystack 来创建检索管道。

实施重新排名和过滤
一旦检索系统投入运行，下一步就是通过重新排序和过滤技术来增强相关性。这可以使用 Haystack 中的内置重新排序模块来完成，也可以根据您的特定查询类型自定义重新排序模型来完成。

融入先进的生成技术
检索后，利用提示工程、上下文提炼和多步骤推理来优化生成过程。借助 LangChain，您可以将检索和生成步骤链接在一起以处理多步骤查询，或使用提示模板来调节模型以实现更准确的生成。

如果幻觉是一个问题，请集中精力将生成的基础放在检索到的文档上，确保模型根据这些文档的内容生成输出。

测试和评估
定期测试对于提高 RAG 系统的性能至关重要。使用准确度、相关性和用户满意度等评估指标来评估重新排名和上下文提炼等高级技术的有效性。运行 A/B 测试来比较不同的方法，并根据反馈对系统进行微调。

优化可扩展性
随着系统的增长，计算开销可能成为一个问题。为了管理这个问题，采用模型蒸馏或量化等优化技术，并确保检索过程高效。利用 GPU 加速或并行化也有助于保持大规模性能。

监控和更新
RAG 系统需要不断发展以适应新的查询和数据。设置监控工具以实时跟踪系统性能，并不断更新模型和检索索引以处理新兴趋势和需求。

评估先进的 RAG 技术
在 RAG 系统中实施先进技术仅仅是个开始。通过使用适当的评估指标和 A/B 测试等测试方法，我们可以评估系统对用户查询的响应情况以及随着时间的推移进行改进的情况。

准确性
准确度衡量系统检索和生成正确或相关响应的频率。对于问答系统，这可能涉及将生成的答案与真实数据直接进行比较。准确度的提高表明系统能够准确地解释查询并提供精确的结果。

关联
该指标根据检索到的文档对用户查询的回答效果来评估文档的相关性和生成的响应的质量。平均倒数排名 (MRR) 或 Precision@K 等指标通常用于量化相关性，评估最相关文档在排名中出现的位置。

延迟
虽然准确性和相关性至关重要，但实时性能也很重要。延迟是指系统的响应时间，即系统检索文档和生成答案的速度。低延迟在及时响应至关重要的应用中尤为重要，例如客户支持或实时问答系统。

覆盖范围
覆盖率衡量 RAG 系统处理各种查询的能力。在特定领域的应用中，确保系统能够处理所有潜在用户查询是提供全面支持的关键。

评估 RAG 系统性能

使用 napkin.ai 生成的图表

高级 RAG 技术的用例
先进的 RAG 技术为不同行业和应用开辟了广泛的可能性。

复杂的问答系统
高级 RAG 技术最具影响力的用例之一是复杂的问答 (QA) 系统。这些系统需要的不仅仅是简单的文档检索 - 它们必须理解上下文、分解多步骤查询并根据检索到的文档提供全面的答案。

领域特定知识检索
在特定领域知识至关重要的行业中，可以构建先进的 RAG 系统来检索和生成高度专业化的内容。一些值得注意的应用包括：

医疗保健：医疗专业人员在做出决策时依赖最新的研究、临床指南和患者记录。先进的 RAG 系统可以检索医疗论文、总结患者病史并生成治疗方案。过滤和重新排序对于确保检索到的内容是最新、准确的并且与患者病情高度相关尤为重要。
金融服务：在金融领域，RAG 系统可以检索市场报告、监管文件和经济预测，帮助分析师生成准确的数据驱动洞察。查询扩展和密集检索可以确保分析师收到最相关、最全面的可用数据。
个性化推荐
个性化推荐系统是高级 RAG 技术的另一个关键用例。通过结合用户偏好、行为和外部数据源，RAG 系统可以为产品、服务或内容生成个性化推荐，包括：

电子商务：RAG 系统可以通过检索产品描述、客户评论和用户资料来推荐产品，以生成个性化建议。混合搜索（结合基于关键字和基于向量的检索）和重新排名对于提高这些推荐的相关性至关重要。
内容平台：在流媒体或新闻平台上，RAG 系统可以根据用户偏好和近期趋势推荐内容。查询扩展和上下文提炼可以帮助这些系统提供更细致入微的推荐，根据过去的行为和当前兴趣定制建议。
RAG 系统的未来
下一代 RAG 系统将整合更多样化的数据源，提高推理能力，并解决当前的限制（如模糊性和复杂查询处理）。

一个关键的发展领域是整合各种数据源，不再依赖单一数据集。未来的系统将结合来自数据库、API 和实时反馈等不同来源的信息，从而为复杂的查询提供更全面、多维度的答案。

处理模糊或不完整的查询是未来 RAG 系统将要解决的另一个挑战。通过将概率推理与更好的上下文理解相结合，这些系统将更有效地管理不确定性。

此外，多步骤推理将成为 RAG 系统处理复杂查询的不可或缺的部分，将查询分解为更小的部分，并综合多个文档或步骤的结果。这将在法律研究、科学发现和客户支持等领域尤其有益，因为查询通常需要连接不同的信息。

随着个性化和情境感知的不断改进，未来的 RAG 系统将根据用户历史、偏好和过去的互动来定制响应。实时适应新信息将使对话更加动态和富有成效。

使用 napkin.ai 生成的图表

当前的密集检索模型非常有效，但研究仍在进行中，以开发更高效、更准确的神经检索模型。这些模型旨在更好地捕捉更广泛的查询-文档对中的语义相似性，同时提高大规模检索任务的效率。

论文如Karpukhin 等人（2020 年）引入了密集段落检索（DPR）作为开放域问答的核心方法，而最近的研究如Izacard 等人 (2022)专注于小样本学习，以使 RAG 系统适应特定领域的任务。

另一个新兴研究领域专注于通过检索增强生成模型来改善检索和生成之间的联系。这些模型旨在将检索到的文档无缝集成到生成过程中，从而使语言模型能够更直接地根据检索到的内容来调节其输出。

这可以减少幻觉并提高生成响应的事实准确性，从而使系统更加可靠。值得注意的作品包括Huang 等人（2023 年）使用 RAVEN 模型，它使用检索增强编码器-解码器模型来改进上下文学习。

结论
密集检索、重新排序和多步推理等先进 RAG 技术的集成确保 RAG 系统能够满足从医疗保健到个性化推荐等实际应用的需求。

展望未来，跨语言功能、个性化生成和处理更多样化数据源等创新将推动 RAG 系统的发展。

如果您想继续学习并更多地了解 RAG 系统，我推荐以下教程：