「RAG」大模型的 RAG 主要用来解决什么问题？

0 前言

本文内容整理自公众号「小林面试笔记」的文章 2. 大模型的 RAG 主要用来解决什么问题？，用于记录与总结 RAG 相关的核心面试知识点。

「大模型的 RAG 主要用来解决什么问题？」，可以这样作答：

主要解决三个问题，而且这三者的根源是同一件事——知识被固化在了模型参数里。

一是知识时效性：LLM 训练完成的那一刻知识就「冻住」了，训练截止日期之后的信息一无所知；二是私有知识覆盖：公司内部文档、行业专有数据根本没机会进训练集，模型「压根没有」这些知识；三是幻觉问题：没有知识依据时，模型会编出听起来合理但实际错误的答案。

RAG 的解法是把知识从参数里搬到外部知识库，用户提问时实时检索相关片段、注入 prompt，让 LLM 基于参考资料作答——一个思路同时解决三个问题：知识可随时更新、私有知识即时可用、答案有依据可溯源。

1 大模型的 RAG 主要用来解决什么问题？

1.1 LLM 的「知识冻结」问题

先理解根本原因。LLM 在预训练阶段通过阅读海量文本，把知识"编码"进了模型的参数权重里。你可以把它想象成一本印死的百科全书：书里知识丰富，但印刷完成之后，内容就再也改不了了。

LLM 的知识被编码进参数

训练数据收集到哪一天，模型就只知道那一天之前的事；训练完成后，无论外部世界发生什么，它都不会自动更新。这就是「知识冻结」。

有人可能会说：那重新训练不就行了？问题是成本。训练一次 GPT 级别的大模型，成本是千万美元级的，不可能为了每周冒出的新知识反复重来。微调（Fine-tuning）倒是能注入一些新知识，但同样成本不低，而且还有一个致命弱点：无法溯源——你根本不知道模型是从哪条知识推出这个答案的，出了问题也找不到原因。

所以「知识冻结」不是靠重新训练就能轻易解决的，它是 LLM 架构的固有特性。正是这个特性，直接引发了下文三个环环相扣的问题。

1.2 知识过期：训练数据有截止日期

第一个问题，是知识会过期。

模型的全部知识以训练数据的截止日期为界。你问它截止日期之后的问题，它只能根据历史规律去"推测"一个听起来合理的答案。比如金融场景下，模型不知道某家公司最近一个季度的财报数据，它的分析就是基于过期信息做出的。

知识过期：训练数据有截止日期

1.3 知识空白：私有数据根本没进过训练集

第二个问题，是知识存在空白。

公开互联网上的知识，模型多少见过一些；但企业内部的数据——产品手册、客服知识库、合同模板、行业规范——这些根本不在公开训练集里。注意区分：知识过期说的是"旧了"，知识空白说的是"压根没有"。

知识空白：私有数据未进入训练集

比如让 LLM 扮演客服，回答"我们产品的退款政策是什么"，它不可能知道——因为这条信息根本不在它的训练集里。如果它回答了，那一定是编的。这是企业落地 AI 最普遍的痛点：数据天天在更新，总不能每次更新都重新训练一次模型。

1.4 知识缺失的副产品：幻觉

第三个问题，也是大家最熟悉的——幻觉。

要理解幻觉，得先理解 LLM 的机制：它的训练目标本质上是预测下一个 token——给定前面这些文字，预测下一个最可能出现的 token。注意，它的机制里没有"我不确定就停下来"这个选项，它只会顺着往下生成，直到碰到停止符。

LLM 的 next-token 预测机制

所以当参数里没有对应知识时，它不会说"我不知道"，而是硬着头皮往下生成，把相关不相关的知识拼凑成一个"听起来合理"的答案。这就是幻觉。在医疗、法律、金融这些低容错的场景里，这样的编造可能造成实际损失。

这里有个容易踩的误区：幻觉不是独立的 bug，不需要单独治理。它是知识缺失的副产品，是模型在缺乏可靠依据时的"应急策略"。知识过期、知识空白都会导致幻觉，根源是同一个——参数里没有对应知识。

1.5 RAG 是怎么同时解决这三个问题的

RAG 的做法我们在上一篇讲过：把知识整理成文档存入向量数据库 → 用户提问时检索出相关片段 → 和问题一起塞进 prompt → 让 LLM 基于参考资料回答。

RAG 同时解决三个问题

对着三个问题逐一验证：

知识时效性：新内容随时可以入库，知识库一更新立刻生效，不需要重新训练；
知识空白：公司文档入库后，LLM 就能"看到"这些私有知识，企业内部问题也能给出准确回答；
幻觉问题：LLM 有了真实的参考依据，是在"复述"检索到的内容，而不是凭记忆发挥，幻觉率显著下降。而且每条答案都能溯源到原文，用户可以自己核实，可信度大幅提升。

本质就是给 LLM 开了一个"开卷考试"的口子：知识存在外面，用到的时候翻出来看，不用全靠死记硬背。

这里藏着 RAG 最核心的设计思想：知识管理与模型能力彻底解耦。更新知识不用碰模型，扩展领域知识只需扩展知识库。这也是 RAG 能成为企业 AI 落地首选方案的根本原因。

2 面试总结

面试官问"RAG 主要解决什么问题"，要让他看到你对 LLM 局限性的系统性理解：

讲清三个问题：知识时效性（训练数据有截止日期）、私有知识缺失（企业内部数据没进过训练集）、幻觉（没有依据时模型编答案）。
指出三者根源是同一件事：知识被冻在了模型参数里。
再说清 RAG 的解法：把知识从参数搬到外部知识库，用时实时检索注入，不动模型本身。一个思路同时解决三个问题，而且知识可随时更新、答案可溯源。

如果被追问"幻觉是不是 RAG 专门解决的"，标准回答是：幻觉只是知识缺失的副产品，RAG 解决的是根源，而不是单独在治幻觉。

参考