1. 题目分析这道题看似基础实则是一块很好的试金石。面试官不是想听你把 RAG 的定义解释一遍。他真正想考察的是你对 RAG 的理解是否深入、它在工程中到底怎么跑的、以及你能不能跳出 RAG 本身站在更高的视角去对比 RAG 和微调各自解决了什么层面的问题。一个好的回答应该从 LLM 的根本局限性出发自然地引出 RAG 的设计动机再深入到它的技术流程最后落到和微调的系统性对比上。1.1 为什么需要 RAG要理解 RAG首先得理解它要解决的痛点。大语言模型的知识来源于预训练阶段吃过的语料这套参数化知识有三个致命的缺陷。第一知识有截止日期。 GPT-4 的训练数据截止到某个时间点之后发生的事情它一无所知。你问它2024 年诺贝尔物理学奖给了谁它只能坦白说不知道或者更糟——编一个看起来很像真的但完全错误的答案。这在企业场景中尤其致命因为业务数据每天都在更新产品文档随时在迭代法规政策可能上个月刚改。第二缺乏私域知识。LLM 训练用的是公开互联网数据你公司内部的技术文档、客户档案、会议纪要、产品规格书——这些私有数据 LLM 从未见过。你不可能指望一个只读过互联网的模型来回答我们公司的退货政策是什么。第三幻觉问题。当 LLM 对某个问题没有足够的知识储备时它不会老实说我不知道而是会一本正经地胡说八道——用流畅自信的语言生成看起来合理但事实上错误的内容。这是因为 LLM 的本质是一个概率语言模型它优化的目标是下一个 token 的概率而不是事实的准确性。这种幻觉在需要高准确性的场景法律、医疗、金融中是不可接受的。面对这三个缺陷直觉上你可能会想那把最新的数据、私域文档全部喂给模型重新训练不就好了这就是微调的思路。但微调有很高的门槛——需要 GPU 算力、需要整理训练数据、需要处理灾难性遗忘、训练完还要重新部署。而且每次数据更新都要重新微调成本和周期都不现实。RAG 的诞生本质上就是在说能不能不动模型本身而是在推理阶段给它开卷考试的机会不要求模型记住所有知识而是在需要的时候从外部知识库中检索相关信息把检索结果作为上下文塞给模型让它带着资料回答问题。1.2 RAG 的完整工作流程理解了动机之后我们来看 RAG 在技术上到底是怎么运转的。一个标准的 RAG 系统可以拆成两个阶段离线索引阶段和在线查询阶段。离线索引阶段是备考的过程目的是把原始文档变成可以被高效检索的形式。具体来说分为三步第一步是文档加载与切分Chunking。原始文档可能是 PDF、Word、网页、数据库记录等各种格式首先要把它们统一解析成纯文本。然后由于文档通常很长而后续的 Embedding 模型和 LLM 的上下文窗口都有长度限制需要把长文档切分成较小的文本块Chunk。切分策略是 RAG 工程中第一个需要仔细调优的点——切太大检索精度下降一个大 chunk 里可能只有一小段是相关的其他全是噪声切太小语义完整性被破坏一句话被从中间截断失去了上下文。常见的策略包括按固定长度切分并设置重叠Overlap、按自然段落或章节切分、以及基于语义相似度的动态切分。第二步是向量化Embedding。用一个 Embedding 模型如 OpenAI 的 text-embedding-3、BGE、E5 等把每个文本块转换成一个高维向量。这个向量是文本块语义信息的数学表示——语义相近的文本块在向量空间中的距离也相近。这一步的关键是 Embedding 模型的质量它直接决定了后续检索的准确率。第三步是存入向量数据库。把所有文本块的向量及其对应的原文存入向量数据库如 Milvus、Pinecone、Weaviate、Chroma 等。向量数据库的核心能力是近似最近邻搜索ANN——给定一个查询向量能在毫秒级别从百万甚至亿级的向量中找到最相似的 Top-K 个。2在线查询阶段是开卷考试的过程用户提出一个问题后系统实时检索相关知识并交给 LLM 生成回答。同样分为三步第一步是查询向量化。用同一个 Embedding 模型把用户的问题转换成向量。注意这里必须用和索引阶段相同的模型否则向量空间不一致检索就会失效。第二步是相似度检索。用问题向量在向量数据库中进行 ANN 搜索找到 Top-K 个最相似的文本块。这些文本块就是系统认为和用户问题最相关的参考资料。实际工程中这一步往往还会叠加一些增强策略比如混合检索同时用向量检索和关键词检索取并集、重排序用一个 Cross-encoder 模型对 Top-K 结果做精排、查询改写用 LLM 对用户原始问题做扩展或改写以提高召回率等。第三步是上下文增强生成。把检索到的文本块拼接到 Prompt 中连同用户的原始问题一起发给 LLM。LLM 基于这些参考资料来生成最终回答而不是纯靠自己的参数化知识。1.3 RAG vs 微调要理解RAG 和微调的对比我们可以用一个形象的比喻。**微调就像是给一个人补课——你改变的是他脑子里的知识结构和思维方式。微调后的模型它的参数被永久性地更新了它记住了新的知识或学会了新的行为模式。RAG 则像是给一个人发参考资料**——你没有改变他的能力而是在他答题的时候递给他一叠相关材料让他照着材料来回答。这个区别意味着它们擅长解决的问题完全不同微调擅长改变模型的行为模式和专业能力。比如你想让一个通用模型学会用医学术语对话、学会用特定的语气风格回答、学会遵循某种复杂的输出格式、或者让它在某个专业领域如法律条文解读的推理能力更强——这些是微调的强项。因为这些本质上是在改变模型的思维方式需要调整模型参数才能实现。RAG 擅长解决知识获取层面的问题。即模型需要用到的事实性信息——最新的数据、私域文档、具体的产品参数等。这些信息的特点是需要查的而不是需要学的。你不需要让模型把你公司所有产品的参数都背下来你只需要在用户问到某个产品时帮它从数据库里检索出相关参数就好了。3在明确了 RAG 和微调解决不同层面问题之后我们来系统梳理 RAG 相比微调在知识获取这个层面的具体优势。优势一知识实时更新无需重新训练。这是 RAG 最直接、最有杀伤力的优势。微调一次模型从准备数据到训练完成到部署上线可能需要数天甚至数周。如果你的知识库每天都在变化——比如新闻资讯、产品价格、库存信息、法规更新——微调的更新频率根本跟不上。而 RAG 的知识更新只需要往向量数据库里写入新数据几分钟甚至几秒钟就完成了不需要动模型一根毫毛。优势二大幅降低幻觉生成内容可溯源。RAG 通过在 Prompt 中提供明确的参考信息把 LLM 的生成从凭记忆编变成了照资料写。模型有了事实依据胡编乱造的空间就大大缩小了。更重要的是RAG 天然支持引用溯源——你可以让系统在回答中标注该信息来源于XX文档第X页用户可以验证信息的准确性。这在法律、医疗、金融等对准确性要求极高的场景中是刚需。微调出来的模型给你一个答案你很难知道这个答案是从哪条训练数据中学到的。优势三成本低、门槛低、落地快。微调需要 GPU通常是多卡甚至集群、需要精心整理的训练数据集、需要调超参、需要处理过拟合和灾难性遗忘等问题对团队的 ML 能力有要求。RAG 的门槛低得多一个 Embedding API、一个向量数据库、一个 LLM API加上几百行代码就能搭起一个可用的原型。这也是为什么 RAG 成为了当前 LLM 应用落地最主流的范式——它让没有深厚 ML 背景的开发团队也能快速构建知识增强的 AI 应用。优势四数据安全和权限控制。在企业场景中不同用户有权访问的数据范围是不同的。RAG 天然支持这种权限控制——在检索阶段就可以根据用户身份过滤可访问的文档范围确保模型只能看到该用户有权看到的资料。如果把所有数据都微调到模型参数里你很难阻止模型在回答 A 用户的问题时泄露 B 用户的数据。优势五避免灾难性遗忘。在新数据上微调后模型可能会忘记之前学到的通用能力。比如你用医学数据微调了一个模型它在医学领域变强了但通用的对话能力、逻辑推理能力可能会退化。RAG 完全没有这个问题因为它根本不动模型参数通用能力完好无损。41.4 RAG的局限性一个成熟的回答不应该只讲优势而回避局限。RAG 也有它的短板面试中主动提到这些会展示你的工程判断力。检索质量是天花板。RAG 的效果高度依赖检索的准确率——如果检索到的文本块和问题不相关甚至矛盾LLM 会基于错误的上下文生成错误的答案这有时会比没有 RAG 更危险因为模型有理有据地说错话用户更容易相信。这就是为什么 RAG 工程化中检索优化Chunking 策略、Embedding 模型选型、混合检索、Reranker 重排序占了最大的工作量。上下文窗口的瓶颈。检索出来的文本块要塞进 Prompt受限于 LLM 的上下文长度。如果相关信息分散在很多文档中你可能塞不下所有相关内容导致信息丢失。虽然现在长上下文模型128K 甚至更长在一定程度上缓解了这个问题但长上下文≠好利用——研究表明 LLM 对超长上下文中间部分的注意力会下降Lost in the Middle 现象。不擅长改变模型行为。前面说了RAG 解决的是知识获取问题而不是行为模式问题。如果你想让模型学会一种新的推理风格、适应一种特定的输出格式、或在某个专业领域具备更强的理解力——这些需要微调来解决RAG 帮不上忙。实际上RAG 和微调最好的关系是互补而非互斥。在很多生产级系统中两者是一起用的先微调让模型具备领域专业能力和特定行为模式再用 RAG 为它提供实时的、可更新的事实性知识。这种微调打底 RAG 增强的组合拳才是目前业界最成熟的实践方案。52. 参考回答RAG 的核心思路其实很直观——它要解决的是大语言模型知识层面的三大先天缺陷训练数据有截止日期导致知识过时、缺乏企业私域知识、以及在知识不足时容易产生幻觉。RAG 的做法不是去改变模型本身而是在推理阶段给模型补充知识的机会。具体的工作流程分两个阶段。离线阶段先把文档切分成合适大小的文本块通过 Embedding 模型转成语义向量存入向量数据库。在线阶段用户提问后先用同一个 Embedding 模型把问题向量化在向量数据库中做近似最近邻搜索找到最相关的 Top-K 文本块然后把这些文本块作为上下文和用户问题一起塞进 Prompt 发给 LLM让它基于这些参考资料来生成回答。实际工程中还会叠加混合检索、Reranker 重排序、查询改写等优化手段来提升检索质量。和微调相比两者解决的问题层面完全不同。微调是改大脑——通过更新模型参数来改变它的行为模式和专业能力比如让模型学会医学术语对话或遵循特定输出格式。RAG 是发资料——不动模型参数在推理时提供外部知识。所以 RAG 的优势集中在知识获取层面第一知识可以实时更新往向量库里写条数据就行不用重新训练模型第二大幅降低幻觉因为生成有了事实依据而且天然支持引用溯源用户能验证答案来源第三成本低门槛低一个 Embedding API 加一个向量库加几百行代码就能跑起来不需要 GPU 集群和 ML 专家第四天然支持数据权限控制在检索阶段就能按用户身份过滤文档范围第五不存在灾难性遗忘的风险模型通用能力完好保留。当然 RAG 也不是万能的它的效果高度依赖检索质量如果检索到了不相关的内容反而会误导模型。在实际项目中我认为最成熟的方案是 RAG 和微调配合使用——微调让模型具备领域专业能力RAG 为它提供实时可更新的事实性知识两者互补而非互斥。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2025 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容2025 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”
腾讯大模型二面：请解释 RAG 的工作原理。与直接对 LLM 进行微调相比，RAG 主要解决了什么问题？
1. 题目分析这道题看似基础实则是一块很好的试金石。面试官不是想听你把 RAG 的定义解释一遍。他真正想考察的是你对 RAG 的理解是否深入、它在工程中到底怎么跑的、以及你能不能跳出 RAG 本身站在更高的视角去对比 RAG 和微调各自解决了什么层面的问题。一个好的回答应该从 LLM 的根本局限性出发自然地引出 RAG 的设计动机再深入到它的技术流程最后落到和微调的系统性对比上。1.1 为什么需要 RAG要理解 RAG首先得理解它要解决的痛点。大语言模型的知识来源于预训练阶段吃过的语料这套参数化知识有三个致命的缺陷。第一知识有截止日期。 GPT-4 的训练数据截止到某个时间点之后发生的事情它一无所知。你问它2024 年诺贝尔物理学奖给了谁它只能坦白说不知道或者更糟——编一个看起来很像真的但完全错误的答案。这在企业场景中尤其致命因为业务数据每天都在更新产品文档随时在迭代法规政策可能上个月刚改。第二缺乏私域知识。LLM 训练用的是公开互联网数据你公司内部的技术文档、客户档案、会议纪要、产品规格书——这些私有数据 LLM 从未见过。你不可能指望一个只读过互联网的模型来回答我们公司的退货政策是什么。第三幻觉问题。当 LLM 对某个问题没有足够的知识储备时它不会老实说我不知道而是会一本正经地胡说八道——用流畅自信的语言生成看起来合理但事实上错误的内容。这是因为 LLM 的本质是一个概率语言模型它优化的目标是下一个 token 的概率而不是事实的准确性。这种幻觉在需要高准确性的场景法律、医疗、金融中是不可接受的。面对这三个缺陷直觉上你可能会想那把最新的数据、私域文档全部喂给模型重新训练不就好了这就是微调的思路。但微调有很高的门槛——需要 GPU 算力、需要整理训练数据、需要处理灾难性遗忘、训练完还要重新部署。而且每次数据更新都要重新微调成本和周期都不现实。RAG 的诞生本质上就是在说能不能不动模型本身而是在推理阶段给它开卷考试的机会不要求模型记住所有知识而是在需要的时候从外部知识库中检索相关信息把检索结果作为上下文塞给模型让它带着资料回答问题。1.2 RAG 的完整工作流程理解了动机之后我们来看 RAG 在技术上到底是怎么运转的。一个标准的 RAG 系统可以拆成两个阶段离线索引阶段和在线查询阶段。离线索引阶段是备考的过程目的是把原始文档变成可以被高效检索的形式。具体来说分为三步第一步是文档加载与切分Chunking。原始文档可能是 PDF、Word、网页、数据库记录等各种格式首先要把它们统一解析成纯文本。然后由于文档通常很长而后续的 Embedding 模型和 LLM 的上下文窗口都有长度限制需要把长文档切分成较小的文本块Chunk。切分策略是 RAG 工程中第一个需要仔细调优的点——切太大检索精度下降一个大 chunk 里可能只有一小段是相关的其他全是噪声切太小语义完整性被破坏一句话被从中间截断失去了上下文。常见的策略包括按固定长度切分并设置重叠Overlap、按自然段落或章节切分、以及基于语义相似度的动态切分。第二步是向量化Embedding。用一个 Embedding 模型如 OpenAI 的 text-embedding-3、BGE、E5 等把每个文本块转换成一个高维向量。这个向量是文本块语义信息的数学表示——语义相近的文本块在向量空间中的距离也相近。这一步的关键是 Embedding 模型的质量它直接决定了后续检索的准确率。第三步是存入向量数据库。把所有文本块的向量及其对应的原文存入向量数据库如 Milvus、Pinecone、Weaviate、Chroma 等。向量数据库的核心能力是近似最近邻搜索ANN——给定一个查询向量能在毫秒级别从百万甚至亿级的向量中找到最相似的 Top-K 个。2在线查询阶段是开卷考试的过程用户提出一个问题后系统实时检索相关知识并交给 LLM 生成回答。同样分为三步第一步是查询向量化。用同一个 Embedding 模型把用户的问题转换成向量。注意这里必须用和索引阶段相同的模型否则向量空间不一致检索就会失效。第二步是相似度检索。用问题向量在向量数据库中进行 ANN 搜索找到 Top-K 个最相似的文本块。这些文本块就是系统认为和用户问题最相关的参考资料。实际工程中这一步往往还会叠加一些增强策略比如混合检索同时用向量检索和关键词检索取并集、重排序用一个 Cross-encoder 模型对 Top-K 结果做精排、查询改写用 LLM 对用户原始问题做扩展或改写以提高召回率等。第三步是上下文增强生成。把检索到的文本块拼接到 Prompt 中连同用户的原始问题一起发给 LLM。LLM 基于这些参考资料来生成最终回答而不是纯靠自己的参数化知识。1.3 RAG vs 微调要理解RAG 和微调的对比我们可以用一个形象的比喻。**微调就像是给一个人补课——你改变的是他脑子里的知识结构和思维方式。微调后的模型它的参数被永久性地更新了它记住了新的知识或学会了新的行为模式。RAG 则像是给一个人发参考资料**——你没有改变他的能力而是在他答题的时候递给他一叠相关材料让他照着材料来回答。这个区别意味着它们擅长解决的问题完全不同微调擅长改变模型的行为模式和专业能力。比如你想让一个通用模型学会用医学术语对话、学会用特定的语气风格回答、学会遵循某种复杂的输出格式、或者让它在某个专业领域如法律条文解读的推理能力更强——这些是微调的强项。因为这些本质上是在改变模型的思维方式需要调整模型参数才能实现。RAG 擅长解决知识获取层面的问题。即模型需要用到的事实性信息——最新的数据、私域文档、具体的产品参数等。这些信息的特点是需要查的而不是需要学的。你不需要让模型把你公司所有产品的参数都背下来你只需要在用户问到某个产品时帮它从数据库里检索出相关参数就好了。3在明确了 RAG 和微调解决不同层面问题之后我们来系统梳理 RAG 相比微调在知识获取这个层面的具体优势。优势一知识实时更新无需重新训练。这是 RAG 最直接、最有杀伤力的优势。微调一次模型从准备数据到训练完成到部署上线可能需要数天甚至数周。如果你的知识库每天都在变化——比如新闻资讯、产品价格、库存信息、法规更新——微调的更新频率根本跟不上。而 RAG 的知识更新只需要往向量数据库里写入新数据几分钟甚至几秒钟就完成了不需要动模型一根毫毛。优势二大幅降低幻觉生成内容可溯源。RAG 通过在 Prompt 中提供明确的参考信息把 LLM 的生成从凭记忆编变成了照资料写。模型有了事实依据胡编乱造的空间就大大缩小了。更重要的是RAG 天然支持引用溯源——你可以让系统在回答中标注该信息来源于XX文档第X页用户可以验证信息的准确性。这在法律、医疗、金融等对准确性要求极高的场景中是刚需。微调出来的模型给你一个答案你很难知道这个答案是从哪条训练数据中学到的。优势三成本低、门槛低、落地快。微调需要 GPU通常是多卡甚至集群、需要精心整理的训练数据集、需要调超参、需要处理过拟合和灾难性遗忘等问题对团队的 ML 能力有要求。RAG 的门槛低得多一个 Embedding API、一个向量数据库、一个 LLM API加上几百行代码就能搭起一个可用的原型。这也是为什么 RAG 成为了当前 LLM 应用落地最主流的范式——它让没有深厚 ML 背景的开发团队也能快速构建知识增强的 AI 应用。优势四数据安全和权限控制。在企业场景中不同用户有权访问的数据范围是不同的。RAG 天然支持这种权限控制——在检索阶段就可以根据用户身份过滤可访问的文档范围确保模型只能看到该用户有权看到的资料。如果把所有数据都微调到模型参数里你很难阻止模型在回答 A 用户的问题时泄露 B 用户的数据。优势五避免灾难性遗忘。在新数据上微调后模型可能会忘记之前学到的通用能力。比如你用医学数据微调了一个模型它在医学领域变强了但通用的对话能力、逻辑推理能力可能会退化。RAG 完全没有这个问题因为它根本不动模型参数通用能力完好无损。41.4 RAG的局限性一个成熟的回答不应该只讲优势而回避局限。RAG 也有它的短板面试中主动提到这些会展示你的工程判断力。检索质量是天花板。RAG 的效果高度依赖检索的准确率——如果检索到的文本块和问题不相关甚至矛盾LLM 会基于错误的上下文生成错误的答案这有时会比没有 RAG 更危险因为模型有理有据地说错话用户更容易相信。这就是为什么 RAG 工程化中检索优化Chunking 策略、Embedding 模型选型、混合检索、Reranker 重排序占了最大的工作量。上下文窗口的瓶颈。检索出来的文本块要塞进 Prompt受限于 LLM 的上下文长度。如果相关信息分散在很多文档中你可能塞不下所有相关内容导致信息丢失。虽然现在长上下文模型128K 甚至更长在一定程度上缓解了这个问题但长上下文≠好利用——研究表明 LLM 对超长上下文中间部分的注意力会下降Lost in the Middle 现象。不擅长改变模型行为。前面说了RAG 解决的是知识获取问题而不是行为模式问题。如果你想让模型学会一种新的推理风格、适应一种特定的输出格式、或在某个专业领域具备更强的理解力——这些需要微调来解决RAG 帮不上忙。实际上RAG 和微调最好的关系是互补而非互斥。在很多生产级系统中两者是一起用的先微调让模型具备领域专业能力和特定行为模式再用 RAG 为它提供实时的、可更新的事实性知识。这种微调打底 RAG 增强的组合拳才是目前业界最成熟的实践方案。52. 参考回答RAG 的核心思路其实很直观——它要解决的是大语言模型知识层面的三大先天缺陷训练数据有截止日期导致知识过时、缺乏企业私域知识、以及在知识不足时容易产生幻觉。RAG 的做法不是去改变模型本身而是在推理阶段给模型补充知识的机会。具体的工作流程分两个阶段。离线阶段先把文档切分成合适大小的文本块通过 Embedding 模型转成语义向量存入向量数据库。在线阶段用户提问后先用同一个 Embedding 模型把问题向量化在向量数据库中做近似最近邻搜索找到最相关的 Top-K 文本块然后把这些文本块作为上下文和用户问题一起塞进 Prompt 发给 LLM让它基于这些参考资料来生成回答。实际工程中还会叠加混合检索、Reranker 重排序、查询改写等优化手段来提升检索质量。和微调相比两者解决的问题层面完全不同。微调是改大脑——通过更新模型参数来改变它的行为模式和专业能力比如让模型学会医学术语对话或遵循特定输出格式。RAG 是发资料——不动模型参数在推理时提供外部知识。所以 RAG 的优势集中在知识获取层面第一知识可以实时更新往向量库里写条数据就行不用重新训练模型第二大幅降低幻觉因为生成有了事实依据而且天然支持引用溯源用户能验证答案来源第三成本低门槛低一个 Embedding API 加一个向量库加几百行代码就能跑起来不需要 GPU 集群和 ML 专家第四天然支持数据权限控制在检索阶段就能按用户身份过滤文档范围第五不存在灾难性遗忘的风险模型通用能力完好保留。当然 RAG 也不是万能的它的效果高度依赖检索质量如果检索到了不相关的内容反而会误导模型。在实际项目中我认为最成熟的方案是 RAG 和微调配合使用——微调让模型具备领域专业能力RAG 为它提供实时可更新的事实性知识两者互补而非互斥。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2025 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容2025 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”
