当前位置：首页 > news >正文

检索增强生成：RAG（Retrieval Augmented Generation）

news 2025/8/10 6:07:55

什么是 RAG？
为什么使用 RAG？
LLM 微调和 RAG？
实战

什么是 RAG？

RAG 在论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中被引入，原论文是这样描述的：

探索了一种 通用的 检索增强生成（RAG）微调方案 —— 这种模型结合了 预训练的参数化记忆 和 非参数化记忆，用于语言生成。提出的 RAG 模型中，参数化记忆是一个预训练的 seq2seq 模型，而 非参数化记忆是一个由预训练神经检索器访问的维基百科稠密向量索引。

在这里插入图片描述
图 1：概览。将一个预训练的检索器（查询编码器 + 文档索引）与一个 预训练的 seq2seq 模型（生成器）相结合，并进行端到端微调。对于查询 $x$ ，我们使用 最大内积搜索（MIPS）找到前 $K$ 篇文档 $z_i$ 。在得到最终预测 $y$ 时，将 $z$ 视为潜在变量，并对不同文档下的 seq2seq 预测结果进行边际化处理。

每个步骤可以大致分解为：

检索：根据查询从源中寻找相关信息。例如，根据问题从数据库中获取相关的维基百科文本段落。
- 构建/索引文档库（预处理）：把外部知识源（比如维基百科）拆分成文档/段落，编码成向量 并 建立检索索引（如向量索引，支持 MIPS/ANN 查询）。
- 查询编码与检索：把输入查询 $x$ 用检索器的查询编码器编码，进行向量检索，返回前 $K$ 个最相关的文档 $z_1,...,z_K$ 。
增强：使用相关检索到的信息来修改输入到生成模型（例如 LLM）中的内容。将检索到的文档与生成器结合，即把检索到的文档作为 条件信息 喂入 预训练的 seq2seq 生成器。这里有两种常见形式：
- RAG-Sequence（或 RAG-固定）：对整个输出序列都使用同一组检索段落作为上下文。
- RAG-Token（或 RAG-逐 token）：生成每个 token 时可使用不同的检索段落（更细粒度）。
生成：根据输入生成输出。例如，在 LLM 的情况下，根据输入提示生成一段文本。
- 生成与边际化（推理）：将文档 $z$ 视为潜在变量，计算最终输出的概率为对不同检索文档的边际化 $p(y∣x)=∑zp(z∣x)p(y∣x,z)\;p(y|x)=\sum_z p(z|x)\,p(y|x,z)$ 。实现上可以对每个 $z_i$ 生成 $p(y|x,z_i)$ 再加权求和，得到最终预测。
- 端到端微调（训练）：将检索器（查询编码器）和生成器一起端到端微调，使得检索更契合生成任务、生成更能利用检索到的证据。训练时通常会最大化边际似然或相应损失。
- （可选）输出后处理与可追溯性：返回生成文本同时附加证据来源（即用到的检索片段），便于验证与更新知识库。

为什么使用 RAG？

RAG 的主要目标是 提高 LLMs 的生成输出。

可以看到两个主要改进：

防止幻觉。LLMs 非常出色，但它们容易产生潜在的幻觉，也就是说，生成看似正确但实际上不正确的内容。RAG 管道可以通过提供事实性（检索到的）输入来帮助 LLMs 生成更符合事实的输出。即使从 RAG 管道生成的答案看起来不正确，由于检索功能，也可以获取其来源的资料。
使用自定义数据。许多 基础 LLMs 使用互联网规模文本数据进行训练。这意味着它们具有强大的语言建模能力，然而，它们 通常缺乏特定领域的知识。RAG 系统可以向 LLMs 提供 特定领域的数据，如医疗信息或公司文档，从而 根据特定用例定制它们的输出。

RAG 也可以是一个比在特定数据上微调 LLM 更快的解决方案。

LLM 微调和 RAG？

LLM 微调（Fine-tuning）：在下游数据上更新模型参数，使模型直接 在内部参数中编码任务或领域知识。包括全量微调，也包括参数高效微调（如 LoRA、Prompt-Tuning、Adapters 等，统称 PEFT）。LoRA 是典型方法之一，能显著减少可训练参数并节省显存。

RAG（Retrieval-Augmented Generation）：把 外部非参数化知识库（文档/段落向量索引）与生成模型结合，在 推理时检索相关文档并以此条件化生成，生成端对不同检索结果做边际化或融合以产出答案；检索库可以独立更新，从而实现 更新知识而不重训模型。RAG 在知识密集型任务上被提出并验证效果优于仅参数化模型。

维度	LLM 微调（全量/PEFT）	RAG（检索增强生成）
知识存储位置	模型参数（内隐）	外部索引（显式）+ 模型（局部决策）
更新知识	需重训或增量微调	更新索引即可（无需重训模型）
推理延迟	较低（单次前向）	增加检索与文档处理延迟（检索/编码/聚合）。
计算/成本（训练）	全量微调高；PEFT 低（显存 & 存储节省）	检索器训练 + 生成器微调（可仅微调生成器或与检索器联合微调），索引构建有成本
可解释性 / 溯源	较差（内部权重难溯源）	好：可返回支持文档作证据。
抗幻觉 / 事实准确性	依赖模型及数据；难以快速修正错误	更易 grounding，若检索到高质量文档，生成更事实性
小样本/数据效率	PEFT 在少数据下表现好	依赖检索质量；在少标注下可借外部知识补充
工程复杂度	相对简单（若仅单模型部署）	复杂：需索引/检索服务、向量数据库、检索器与生成器协同
最佳适用场景	任务固定、知识静态、可承受模型更新成本	知识频繁更新、需要来源/可解释性、知识密集型 QA 与事实生成