RAG 是什么：大模型应用为什么需要检索增强

一、大模型为什么需要外部知识
大语言模型的知识来自训练数据，存在两个天然短板。一是时效性，训练完成后产生的新信息，模型无从得知。二是领域性，企业内部的文档、制度、业务数据，模型从未见过。直接让模型回答这类问题，它会基于概率生成看似合理但实际虚构的内容，即所谓的幻觉。

微调可以让模型学习领域知识，但成本高、更新慢，且无法附带可溯源的引用。检索增强生成提供了另一条路径：不改模型本身，而是在提问时把相关资料一并提供给模型，让它基于资料作答。

二、RAG 的基本流程
RAG 的运行分为离线和在线两个阶段。离线阶段构建知识库：原始文档经过清洗、切分成片段，通过嵌入模型转换成向量，存入向量数据库。在线阶段处理提问：用户问题同样转换成向量，在向量库中检索语义最相近的若干片段，把这些片段连同问题一起组装成提示词，交给大模型生成回答。

这个流程的关键变化在于，模型的角色从知识源变成了阅读理解和表达的工具。知识存于检索系统，模型负责基于检索结果组织答案，幻觉空间被大幅压缩，回答还能附带出处。

三、影响效果的几个关键环节
文档切分策略决定检索的粒度。切得太碎，上下文不完整；切得太大，噪声多且容易超出模型的上下文窗口。按语义边界切分，并为片段保留所属章节等元信息，通常优于简单的定长切分。

嵌入模型的质量决定检索的准确率。通用嵌入模型在专业领域表现可能不佳，必要时需要选择领域模型或微调。检索环节也通常不是纯向量检索，混合关键词检索与向量检索，再经过重排序模型精排，能显著提升召回质量。

提示词模板影响最终生成。需要明确约束模型基于给定资料回答、资料不足时说明、禁止编造，并规范引用格式。

四、常见误区
认为接入了知识库就万事大吉，忽视文档质量。知识库里充斥着过期、矛盾、排版混乱的文档，检索再精准也只能返回垃圾。忽视评估，上线后没有回答准确率的度量，效果优劣全凭感觉。把 RAG 当成唯一方案，简单的事实问答无需 RAG，而需要复杂推理和计算的问题，RAG 也解决不了，可能需要工具调用和智能体架构配合。

五、总结
RAG 的本质是把开卷考试引入大模型应用：模型不必记住一切，只需要会查资料、会基于资料作答。架构并不复杂，效果的上限却取决于知识库治理、切分策略、检索质量和提示词工程的每一个细节。对大多数企业应用而言，做好一个文档质量过硬、检索链路经过评估的 RAG 系统，比追逐更大的模型更有实际价值。