LangChain是一个开源大模型应用开发框架旨在将大语言模型LLM从简单的聊天能力封装成可落地的工程化应用。它通过六大核心模块——模型层、提示词工程层、记忆层、链层、数据连接层和智能体层解决了LLM的幻觉、知识截止、上下文限制等问题。文章详细介绍了LangChain的工作流程、核心技术如RAG检索增强生成和Agent智能体、生态组件以及典型应用场景并通过实例展示了如何使用LangChain结合Ollama本地模型搭建私有知识库问答系统。此外还探讨了如何通过提示词工程、RAG检索增强和模型微调三层改造方法来适应自身需求构建智能体。本文包括以下内容:Q1:什么是LangChainQ2:LangChain工作全流程Q3:如何改造LLM以适应自身需求构建智能体Q4:langchain与ollama的关系是什么Q5:具体如何使用langchainQ1:什么是LangChainLangChain 是2022年底推出的开源大模型应用开发框架由 Harrison Chase 开发基于 Python/JavaScript核心定位是把大语言模型LLM从单纯聊天能力封装成可落地的工程化应用解决大模型幻觉、无外部知识、无法调用工具、上下文有限、无法串联复杂任务等问题。下图是llm以及rag应用过程。图1 LLM应用过程图2 检索增强生成RAG)过程一、概述一)大模型llm的缺点知识截止时间固定不能用私有数据、实时数据上下文长度有限不能直接读长文档、海量知识库没有记忆多轮对话容易遗忘上下文不会调用外部工具比如搜索、数据库、API、计算器等无法自动规划多步骤复杂任务提示词管理混乱难维护二)LangChain 作用能够提供标准化组件让开发者不用从零写底层逻辑可以快速搭建RAG知识库、Agent智能体、对话机器人、自动化工作流、数据分析助手等。二、LangChain整体架构LangChain 所有功能主要包括六大核心模块:Models模型层统一调用各类大模型提供统一接口屏蔽不同厂商 API 差异一行代码便可切换模型。云端模型OpenAI、通义千问、文心一言、字节豆包、Anthropic等本地开源模型Llama、Qwen、GLM、通过 Ollama / vLLM 调用等支持聊天模型 ChatModel、嵌入模型 Embeddings做向量检索Prompts提示词工程层标准化管理提示词解决硬编码问题。PromptTemplate模板化提示词动态插入变量FewShotPromptTemplate少样本提示输出解析器 OutputParser强制大模型输出 JSON、列表、指定格式方便程序解析Memory记忆层让AI记住历史给对话增加上下文存储支持多轮连续对话。ConversationBufferMemory完整保存所有对话SummaryMemory自动总结历史节省 tokenVectorStoreMemory向量形式记忆支持长期记忆支持持久化存入 Redis、数据库、文件Chains链串联多个步骤实现流水线任务LangChain 最核心组件把多个组件按顺序执行形成工作流。常见内置链☆LLMChain最简单提示词 模型 输出解析☆RetrievalQARAG核心链文档检索 → 传给大模型回答☆SequentialChain顺序执行多步任务翻译→总结→改写☆RouterChain路由分发根据问题类型调用不同模型/工具Data Connection数据连接层对接私有数据实现大模型读取私有文档、外部数据是 RAG 的基础。★Document Loaders文档加载器可以加载PDF、Word、Excel、网页、数据库、CSV等★Text Splitters文本分割器可以按字符、语义、递归分割适配向量库★Embeddings文本向量化★Vector Stores向量数据库如Chroma、FAISS、PGVector、Milvus、Redis等★Retrievers检索器从向量库召回最相关内容Agents智能体层自主决策、自动调用工具LangChain 最高级功能让 AI 自己思考我要完成什么任务 → 需要哪些工具 → 调用顺序 → 整理结果支持工具联网搜索、计算器、代码解释器、数据库查询、API调用、文件读写主流 AgentReAct Agent推理行动最经典Plan-and-Solve先规划再执行OpenAI Function Agent基于函数调用三、核心技术RAG 检索增强生成具体流程私有文档 → 加载 → 分割 → 向量化存入向量库 → 用户提问 → 问题向量化 → 检索相似片段 → 拼接提示词给大模型 → 输出回答能够解决大模型幻觉、不能用内部资料问题。Agent 智能体让大模型脱离固定流程自主决策、调用工具、循环执行适合复杂任务。如查天气查股票做数据分析生成报告自动完成。四、LangChain 生态 配套组件LangSmithLangChain 官方调试、监控、日志、评估平台可视化链执行过程LangServe把 LangChain 应用快速部署成 API 服务LangGraph最新核心扩展实现有状态、循环、分支的复杂 Agent支持多轮迭代、工具调用循环五、版本区别LangChain v0.1 / v0.2 / v0.3旧版组件耦合重代码混乱新版v0.2- 架构重构更模块化。新版支持 LCELLangChain Expression Language声明式链式编程可读性极强更适配 LangGraphAgent 能力大幅增强官方主推 LCEL LangGraph 开发模式。六、典型应用场景现在langchain在企业应用较多其他办公自动化方面也有所涉及具体包括:企业内部知识库问答、客服机器人文档智能分析PDF/合同/论文总结、翻译、提取信息个人知识库、本地私有AI自动化办公自动写周报、邮件、数据分析复杂智能体联网搜索助手、代码助手、科研助手多模态应用图文问答、语音对话七、优缺点一)优点组件齐全开箱即用大幅降低LLM应用开发门槛模型无关可快速切换云端/本地模型支持向量库、记忆、Agent、工作流覆盖90%应用场景生态完善社区活跃文档丰富二)缺点过度封装底层原理不透明调试较难早期版本性能一般token消耗偏高复杂Agent稳定性依赖大模型本身能力大规模生产环境需要深度二次开发优化八、与同类框架对比LlamaIndex侧重文档检索、RAG数据处理更强Agent较弱Haystack侧重检索引擎适合大规模知识库LangChain全能型链AgentRAG 均衡最强最通用九、开发流程总结选择模型OpenAI/豆包/本地模型加载私有数据 → 分割 → 存入向量库构建检索链 RAGChain 或 Agent调试优化提示词、检索参数用 LangServe 部署为 APILangSmith 监控日志Q2:LangChain工作全流程图3 LangChain工作全流程LangChain本质是将外部私有数据加工为可被大模型使用的知识 → 用户提问时精准召回相关知识 → 结合问题生成规范回答。 全链路顺序数据源 → 文档加载 → 文本分割 → 嵌入向量化 → 向量/图谱存储 → 检索召回 → 提示词构建 → 缓存校验 → LLM调用 → 输出解析一、第一阶段离线构建知识库一次性预处理Document Loader 文档加载器数据来源TXT/PDF/DOCX、数据库、网页、CSV/JSON/XML 等异构数据LangChain 动作解析各类格式文件统一转为框架标准 Document 对象包含文本内容元数据核心目的屏蔽文件格式差异让大模型能读取外部私有数据Text Splitter 文本分割器输入完整长文档LangChain 动作把超长文本切分成小的文本块 chunks原因LLM 有上下文长度限制长文本无法直接输入小块文本检索更精准输出多个短粒度 Document chunksEmbedding Model 嵌入模型输入分割后的文本块LangChain 动作将自然语言文本转为高维语义向量语义相近的文本向量距离更近 核心把文字变成计算机可计算的语义信息Vector Store / Knowledge Graph DB 存储向量库存储文本向量原始文本建立相似度索引用于快速检索知识图谱库存储实体、关系用于复杂逻辑推理类检索输出持久化的私有知识库等待后续调用到此离线准备完成之后进入用户在线问答流程。二、第二阶段在线问答推理流程用户触发)Retriever 检索器RAG核心输入用户的提问两条检索路径:一是向量检索问题转向量 → 在向量库中匹配召回语义最相似的文本块二是知识图谱检索解析问题中的实体关系 → 从图谱库召回结构化上下文核心价值只把和问题相关的信息给大模型解决幻觉、知识过时、私有知识无法使用的问题输出问答所需的参考上下文Prompt 提示词输入用户问题 检索召回的上下文LangChain 动作把系统指令、参考资料、用户问题拼接成完整提示词模板示例 基于{上下文}回答{用户问题}禁止编造信息作用约束大模型回答的方向、格式、准确性LLM Cache 大模型缓存输入构建完成的完整 Prompt动作检查是否有相同问题的历史缓存结果命中缓存直接返回结果不调用大模型未命中进入下一步目的降低调用成本、提升响应速度LLM Client 大模型客户端输入最终提示词LangChain 动作统一对接各类大模型OpenAI、豆包、通义千问、本地开源模型屏蔽API差异调用LLM生成回答输出大模型返回的原始文本Output Parser 输出解析器输入LLM 原始自由文本LangChain 动作将结果转为字符串、JSON、CSV等结构化格式作用标准化输出方便对接前端、业务系统三、全流程闭环总结上游数据层多源异构数据输入数据处理层加载 → 分割 → 向量化 → 存储完成知识库构建检索匹配层用户提问 → 检索召回相关上下文LLM生成层提示词构建 → 缓存校验 → 调用大模型输出格式化层解析输出返回标准化答案四、对应 LangChain 六大核心模块映射1.文档加载/分割/向量存储 → Data Connection 数据连接模块2.提示词构建 → Prompts 提示词模块3.检索LLM调用 → Chains 链模块核心为 RetrievalQAChain4.缓存/上下文记忆 → Memory 记忆模块5.统一模型调用 → Models 模型模块6.扩展工具调用 → Agents 智能体模块Q3:如何改造LLM以适应自身需求构建智能体langchain在构建智能体时需要用到大模型目前市面上国内外的大模型功能各异要想找到适用于自身需要的大模型主要考虑以下三方面: 提示词工程 → RAG检索增强 → 模型微调一、提示词工程Prompt EngineeringLangChain 智能体第一层改造不改动模型本身通过 LangChain 封装提示词规范智能体行为。角色与指令 Prompt用 SystemMessage 定义智能体身份、行为规则、回答风格、禁止行为。智能体思考模板Agent Prompt自定义 ReAct / Plan-and-Solve 提示词强制模型按步骤思考、调用工具、输出格式统一。Few‑Shot 少样本示例在 Prompt 里加入任务样例让智能体模仿你的业务逻辑。记忆模块约束配合ConversationBufferMemory /SummaryMemory用提示词控制上下文总结、历史对话复用。适用场景主要包括:通用智能体、简单工具调用、格式规范、语气统一成本最低直接在 LangChain 里配置即可无需训练。 优点是能够快速落地、零算力、调试灵活缺点是私有知识不足复杂推理/垂直领域稳定性差。二、检索增强生成 RAGLangChain 智能体第二层改造给智能体接入私有知识库解决幻觉、私有数据问答不微调模型。一)LangChain 完整改造链路文档加载与切片 DocumentLoader → RecursiveCharacterTextSplitter向量化OpenAIEmbeddings / BGEEmbeddings向量库存储Chroma、FAISS、PGVector检索链 RetrievalQA / ConversationalRetrievalChain接入智能体把 RAG 作为自定义工具注入 Agent实现用户提问 → 智能体判断是否查私有知识库 → 检索 → 生成回答二)核心价值智能体具备私有行业知识、企业文档、业务手册问答能力避免模型幻觉信息来源可控可实时更新知识库不用重训模型三)典型架构Agent → Tools(RAG工具其他工具) → LLM三、模型微调 Fine‑tuningLangChain 智能体第三层深度改造底层改变模型能力适配垂直领域、专属话术、复杂任务逻辑一)微调后在 LangChain 中如何使用微调方式优先LoRA 低秩微调轻量、低成本微调方向- 垂直领域问答工具调用格式对齐智能体推理逻辑优化行业术语、输出风格定制LangChain 接入把微调后的模型通过 ChatOpenAI / HuggingFacePipeline 接入 LangChain替换基座模型。二)适用场景专业领域智能体科研、工业、医疗、无人系统、政务等工具调用频繁、逻辑复杂、通用模型不稳定需要固定话术、固定推理范式三)优缺点优点智能体深度定制推理更稳、幻觉更少、垂直能力极强缺点需要标注数据、算力成本、部署复杂四、LangChain 智能体三层改造最佳实践提示词工程 LangChain Agent 内置工具一)企业项目版提示词工程 RAG检索增强 LangChain Agent 自定义工具链二)专业深度版微调基座模型 提示词工程 RAG 多智能体协作 记忆模块五、总结提示词规范智能体怎么说话、怎么思考、怎么调用工具RAG给智能体喂私有知识解决不知道、幻觉问题微调改造模型底层让智能体天生适配你的业务Q4:langchain与ollama的关系是什么Ollama 负责本地跑大模型LangChain 负责给大模型搭应用流程二者是底层模型以及上层应用框架的上下游配合关系。一、两者分别是什么Ollama本质本地大模型运行工具作用一键在电脑/服务器上下载、运行、管理开源大模型Llama3、Qwen、GLM、Mistral 等提供本地 API 接口解决不用云服务、本地私有化部署大模型数据不出本地LangChain本质大模型应用开发框架作用搭建完整RAG、Agent、知识库、对话链就是你前面那张全流程图把模型、文档、向量库、检索、提示词串成应用解决大模型只是会聊天LangChain 让它能读文档、查知识库、做复杂任务二、二者关系层级关系Ollama 是底层LangChain 是上层 以汽车为例:Ollama 发动机大模型本体LangChain 整车系统车身、方向盘、导航、传感器、工作流程调用关系LangChain 通过 API 调用 Ollama你用 Ollama 在本地启动一个模型如 qwen:7bOllama 开启本地接口 http://localhost:11434LangChain 直接调用这个接口把 Ollama 当作本地版LLM客户端LangChain 负责文档加载、切分、向量库、检索、提示词、输出解析Ollama 只负责生成回答互补关系Ollama只管跑模型、推理没有知识库、检索、工作流能力LangChain不自带模型可以对接 OpenAI、豆包、通义千问也可以对接 Ollama 本地模型三、结合 LangChain 流程图直接对应图中第8步 LLM client大模型客户端云模型 ChatOpenAI 、 ChatTongyi本地模型Ollama完整本地私有化RAG全流程OllamaLangChain文档加载→切分→向量库→检索→Prompt→LangChain调用Ollama本地模型→输出解析四、通俗举例理解Ollama把开源大模型装到个人电脑里让它能说话LangChain给这个本地模型接上PDF、专利、代码库做成私人智能助手没有 LangChainOllama 只能单纯聊天不会读你的私有文档没有 OllamaLangChain 只能用云端大模型无法本地私有化二者结合后可以实现纯本地化智能助手五、实战落地的标准搭配Ollama 本地部署通义千问/Qwen、Llama3 等开源模型LangChain 搭建RAG接入论文、D‑H运动学、ROS2、Python代码、技术手册实现本地私有知识库问答数据部署于本地Q5:具体如何使用langchain结合前面的 LangChain 全流程架构具体使用过程包括文档加载 → 文本分割 → 嵌入向量化 → 向量库 → 检索 → Prompt → 调用模型 → 输出一、第一步环境安装安装依赖库pip install langchain langchain-ollama langchain-chroma langchain-text-splitters pypdflangchain 核心框架langchain-ollama 对接本地 Ollama 模型langchain-chroma 轻量向量数据库pypdf 读取PDF文档提前启动 Ollama本地模型1)安装 Ollama 后终端运行ollama pull qwen:7bollama run qwen:7b2)保持 Ollama 服务开启默认接口 http://localhost:11434 二、场景1最简单对话直接调用本地 Ollama 模型实现基础对话python代码:from langchain_ollama import ChatOllama1. 绑定本地Ollama模型流程图 8.LLM Clientllm ChatOllama(model“qwen:7b”, temperature0.1)2. 提示词流程图 6.Promptres llm.invoke(“用通俗语言解释什么是D‑H参数”)print(res.content)三、场景2搭建完整RAG私有知识库功能上传PDF文档 → 本地向量库存储 → 提问时检索文档回答python 代码from langchain_ollama import ChatOllama, OllamaEmbeddingsfrom langchain_chroma import Chromafrom langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain_community.document_loaders import PyPDFLoaderfrom langchain.chains import RetrievalQAfrom langchain.prompts import PromptTemplate 1. 加载文档流程图 1.Document Loader loader PyPDFLoader(“你的文档.pdf”) # 替换成你的PDF文件docs loader.load() 2. 文本分割流程图 2.Text Splitter text_splitter RecursiveCharacterTextSplitter(chunk_size500, # 文本块大小chunk_overlap100 # 块之间重叠防止信息丢失)splits text_splitter.split_documents(docs) 3. 嵌入模型流程图 3.Embedding Model embeddings OllamaEmbeddings(model“qwen:7b”) 4. 向量库存储流程图 4.Vector Store vectorstore Chroma.from_documents(documentssplits,embeddingembeddings,persist_directory“./chroma_db” # 向量库本地持久化) 5. 检索器流程图 5.Retriever retriever vectorstore.as_retriever(search_kwargs{“k”: 3}) # 召回3个最相关片段 6. 提示词流程图 6.Prompt prompt_template “”你是专业技术助手严格基于以下参考资料回答问题禁止编造内容。参考资料{context}用户问题{question}“”PROMPT PromptTemplate(templateprompt_template,input_variables[“context”, “question”]) 7. 绑定本地模型流程图 8.LLM Client llm ChatOllama(model“qwen:7b”, temperature0.1) 8. 构建RAG链执行问答 qa_chain RetrievalQA.from_chain_type(llmllm,retrieverretriever,return_source_documentsTrue,chain_type_kwargs{“prompt”: PROMPT})提问测试result qa_chain.invoke({“query”: “文档中关于机器人运动学的核心内容是什么”})print(result[“result”])四、对应流程图每一步在代码里的映射Document Loader → PyPDFLoader 读取PDFText Splitter → RecursiveCharacterTextSplitter 切块Embedding Model → OllamaEmbeddings 向量化Vector Store → Chroma 向量数据库Retriever → vectorstore.as_retriever 检索Prompt → PromptTemplate 提示词模板LLM Client → ChatOllama 调用本地模型Output Parser → LangChain默认输出解析直接返回文本五、进阶用 LCEL 链式写法pythonfrom langchain_core.output_parsers import StrOutputParserfrom langchain_core.runnables import RunnablePassthrough构建RAG链rag_chain ({context: retriever, question: RunnablePassthrough()} | PROMPT | llm | StrOutputParser())提问res rag_chain.invoke(“你的问题”)print(res)六、关键使用逻辑总结LangChain不自带大模型必须对接 Ollama/OpenAI/豆包等模型RAG是LangChain最核心用法完整实现私有知识库问答结合Ollama 100%本地私有化部署数据不泄露开发顺序提示词 → 基础对话 → RAG知识库 → Agent智能体七、机器人项目的直接用法把论文、专利、D‑H参数、ROS2手册、Python代码做成PDF用上面代码搭建本地RAG实现本地私有机器人技术问答助手最后唠两句为什么AI大模型成为越来越多程序员转行就业、升职加薪的首选很简单这些岗位缺人且高薪智联招聘的最新数据给出了最直观的印证2025年2月AI领域求职人数同比增幅突破200% 远超其他行业平均水平整个人工智能行业的求职增速达到33.4%位居各行业榜首其中人工智能工程师岗位的求职热度更是飙升69.6%。AI产业的快速扩张也让人才供需矛盾愈发突出。麦肯锡报告明确预测到2030年中国AI专业人才需求将达600万人人才缺口可能高达400万人这一缺口不仅存在于核心技术领域更蔓延至产业应用的各个环节。那0基础普通人如何学习大模型 深耕科技一线十二载亲历技术浪潮变迁。我见证那些率先拥抱AI的同行如何建立起效率与薪资的代际优势。如今我将积累的大模型面试真题、独家资料、技术报告与实战路线系统整理分享于此为你扫清学习困惑共赴AI时代新程。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练如果说你是以下人群中的其中一类都可以来智泊AI学习人工智能找到高薪工作一次小小的“投资”换来的是终身受益应届毕业生无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界。业务赋能 突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型。获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
LangChain大模型应用开发框架详解：从入门到实战，构建智能体与私有知识库
LangChain是一个开源大模型应用开发框架旨在将大语言模型LLM从简单的聊天能力封装成可落地的工程化应用。它通过六大核心模块——模型层、提示词工程层、记忆层、链层、数据连接层和智能体层解决了LLM的幻觉、知识截止、上下文限制等问题。文章详细介绍了LangChain的工作流程、核心技术如RAG检索增强生成和Agent智能体、生态组件以及典型应用场景并通过实例展示了如何使用LangChain结合Ollama本地模型搭建私有知识库问答系统。此外还探讨了如何通过提示词工程、RAG检索增强和模型微调三层改造方法来适应自身需求构建智能体。本文包括以下内容:Q1:什么是LangChainQ2:LangChain工作全流程Q3:如何改造LLM以适应自身需求构建智能体Q4:langchain与ollama的关系是什么Q5:具体如何使用langchainQ1:什么是LangChainLangChain 是2022年底推出的开源大模型应用开发框架由 Harrison Chase 开发基于 Python/JavaScript核心定位是把大语言模型LLM从单纯聊天能力封装成可落地的工程化应用解决大模型幻觉、无外部知识、无法调用工具、上下文有限、无法串联复杂任务等问题。下图是llm以及rag应用过程。图1 LLM应用过程图2 检索增强生成RAG)过程一、概述一)大模型llm的缺点知识截止时间固定不能用私有数据、实时数据上下文长度有限不能直接读长文档、海量知识库没有记忆多轮对话容易遗忘上下文不会调用外部工具比如搜索、数据库、API、计算器等无法自动规划多步骤复杂任务提示词管理混乱难维护二)LangChain 作用能够提供标准化组件让开发者不用从零写底层逻辑可以快速搭建RAG知识库、Agent智能体、对话机器人、自动化工作流、数据分析助手等。二、LangChain整体架构LangChain 所有功能主要包括六大核心模块:Models模型层统一调用各类大模型提供统一接口屏蔽不同厂商 API 差异一行代码便可切换模型。云端模型OpenAI、通义千问、文心一言、字节豆包、Anthropic等本地开源模型Llama、Qwen、GLM、通过 Ollama / vLLM 调用等支持聊天模型 ChatModel、嵌入模型 Embeddings做向量检索Prompts提示词工程层标准化管理提示词解决硬编码问题。PromptTemplate模板化提示词动态插入变量FewShotPromptTemplate少样本提示输出解析器 OutputParser强制大模型输出 JSON、列表、指定格式方便程序解析Memory记忆层让AI记住历史给对话增加上下文存储支持多轮连续对话。ConversationBufferMemory完整保存所有对话SummaryMemory自动总结历史节省 tokenVectorStoreMemory向量形式记忆支持长期记忆支持持久化存入 Redis、数据库、文件Chains链串联多个步骤实现流水线任务LangChain 最核心组件把多个组件按顺序执行形成工作流。常见内置链☆LLMChain最简单提示词 模型 输出解析☆RetrievalQARAG核心链文档检索 → 传给大模型回答☆SequentialChain顺序执行多步任务翻译→总结→改写☆RouterChain路由分发根据问题类型调用不同模型/工具Data Connection数据连接层对接私有数据实现大模型读取私有文档、外部数据是 RAG 的基础。★Document Loaders文档加载器可以加载PDF、Word、Excel、网页、数据库、CSV等★Text Splitters文本分割器可以按字符、语义、递归分割适配向量库★Embeddings文本向量化★Vector Stores向量数据库如Chroma、FAISS、PGVector、Milvus、Redis等★Retrievers检索器从向量库召回最相关内容Agents智能体层自主决策、自动调用工具LangChain 最高级功能让 AI 自己思考我要完成什么任务 → 需要哪些工具 → 调用顺序 → 整理结果支持工具联网搜索、计算器、代码解释器、数据库查询、API调用、文件读写主流 AgentReAct Agent推理行动最经典Plan-and-Solve先规划再执行OpenAI Function Agent基于函数调用三、核心技术RAG 检索增强生成具体流程私有文档 → 加载 → 分割 → 向量化存入向量库 → 用户提问 → 问题向量化 → 检索相似片段 → 拼接提示词给大模型 → 输出回答能够解决大模型幻觉、不能用内部资料问题。Agent 智能体让大模型脱离固定流程自主决策、调用工具、循环执行适合复杂任务。如查天气查股票做数据分析生成报告自动完成。四、LangChain 生态 配套组件LangSmithLangChain 官方调试、监控、日志、评估平台可视化链执行过程LangServe把 LangChain 应用快速部署成 API 服务LangGraph最新核心扩展实现有状态、循环、分支的复杂 Agent支持多轮迭代、工具调用循环五、版本区别LangChain v0.1 / v0.2 / v0.3旧版组件耦合重代码混乱新版v0.2- 架构重构更模块化。新版支持 LCELLangChain Expression Language声明式链式编程可读性极强更适配 LangGraphAgent 能力大幅增强官方主推 LCEL LangGraph 开发模式。六、典型应用场景现在langchain在企业应用较多其他办公自动化方面也有所涉及具体包括:企业内部知识库问答、客服机器人文档智能分析PDF/合同/论文总结、翻译、提取信息个人知识库、本地私有AI自动化办公自动写周报、邮件、数据分析复杂智能体联网搜索助手、代码助手、科研助手多模态应用图文问答、语音对话七、优缺点一)优点组件齐全开箱即用大幅降低LLM应用开发门槛模型无关可快速切换云端/本地模型支持向量库、记忆、Agent、工作流覆盖90%应用场景生态完善社区活跃文档丰富二)缺点过度封装底层原理不透明调试较难早期版本性能一般token消耗偏高复杂Agent稳定性依赖大模型本身能力大规模生产环境需要深度二次开发优化八、与同类框架对比LlamaIndex侧重文档检索、RAG数据处理更强Agent较弱Haystack侧重检索引擎适合大规模知识库LangChain全能型链AgentRAG 均衡最强最通用九、开发流程总结选择模型OpenAI/豆包/本地模型加载私有数据 → 分割 → 存入向量库构建检索链 RAGChain 或 Agent调试优化提示词、检索参数用 LangServe 部署为 APILangSmith 监控日志Q2:LangChain工作全流程图3 LangChain工作全流程LangChain本质是将外部私有数据加工为可被大模型使用的知识 → 用户提问时精准召回相关知识 → 结合问题生成规范回答。 全链路顺序数据源 → 文档加载 → 文本分割 → 嵌入向量化 → 向量/图谱存储 → 检索召回 → 提示词构建 → 缓存校验 → LLM调用 → 输出解析一、第一阶段离线构建知识库一次性预处理Document Loader 文档加载器数据来源TXT/PDF/DOCX、数据库、网页、CSV/JSON/XML 等异构数据LangChain 动作解析各类格式文件统一转为框架标准 Document 对象包含文本内容元数据核心目的屏蔽文件格式差异让大模型能读取外部私有数据Text Splitter 文本分割器输入完整长文档LangChain 动作把超长文本切分成小的文本块 chunks原因LLM 有上下文长度限制长文本无法直接输入小块文本检索更精准输出多个短粒度 Document chunksEmbedding Model 嵌入模型输入分割后的文本块LangChain 动作将自然语言文本转为高维语义向量语义相近的文本向量距离更近 核心把文字变成计算机可计算的语义信息Vector Store / Knowledge Graph DB 存储向量库存储文本向量原始文本建立相似度索引用于快速检索知识图谱库存储实体、关系用于复杂逻辑推理类检索输出持久化的私有知识库等待后续调用到此离线准备完成之后进入用户在线问答流程。二、第二阶段在线问答推理流程用户触发)Retriever 检索器RAG核心输入用户的提问两条检索路径:一是向量检索问题转向量 → 在向量库中匹配召回语义最相似的文本块二是知识图谱检索解析问题中的实体关系 → 从图谱库召回结构化上下文核心价值只把和问题相关的信息给大模型解决幻觉、知识过时、私有知识无法使用的问题输出问答所需的参考上下文Prompt 提示词输入用户问题 检索召回的上下文LangChain 动作把系统指令、参考资料、用户问题拼接成完整提示词模板示例 基于{上下文}回答{用户问题}禁止编造信息作用约束大模型回答的方向、格式、准确性LLM Cache 大模型缓存输入构建完成的完整 Prompt动作检查是否有相同问题的历史缓存结果命中缓存直接返回结果不调用大模型未命中进入下一步目的降低调用成本、提升响应速度LLM Client 大模型客户端输入最终提示词LangChain 动作统一对接各类大模型OpenAI、豆包、通义千问、本地开源模型屏蔽API差异调用LLM生成回答输出大模型返回的原始文本Output Parser 输出解析器输入LLM 原始自由文本LangChain 动作将结果转为字符串、JSON、CSV等结构化格式作用标准化输出方便对接前端、业务系统三、全流程闭环总结上游数据层多源异构数据输入数据处理层加载 → 分割 → 向量化 → 存储完成知识库构建检索匹配层用户提问 → 检索召回相关上下文LLM生成层提示词构建 → 缓存校验 → 调用大模型输出格式化层解析输出返回标准化答案四、对应 LangChain 六大核心模块映射1.文档加载/分割/向量存储 → Data Connection 数据连接模块2.提示词构建 → Prompts 提示词模块3.检索LLM调用 → Chains 链模块核心为 RetrievalQAChain4.缓存/上下文记忆 → Memory 记忆模块5.统一模型调用 → Models 模型模块6.扩展工具调用 → Agents 智能体模块Q3:如何改造LLM以适应自身需求构建智能体langchain在构建智能体时需要用到大模型目前市面上国内外的大模型功能各异要想找到适用于自身需要的大模型主要考虑以下三方面: 提示词工程 → RAG检索增强 → 模型微调一、提示词工程Prompt EngineeringLangChain 智能体第一层改造不改动模型本身通过 LangChain 封装提示词规范智能体行为。角色与指令 Prompt用 SystemMessage 定义智能体身份、行为规则、回答风格、禁止行为。智能体思考模板Agent Prompt自定义 ReAct / Plan-and-Solve 提示词强制模型按步骤思考、调用工具、输出格式统一。Few‑Shot 少样本示例在 Prompt 里加入任务样例让智能体模仿你的业务逻辑。记忆模块约束配合ConversationBufferMemory /SummaryMemory用提示词控制上下文总结、历史对话复用。适用场景主要包括:通用智能体、简单工具调用、格式规范、语气统一成本最低直接在 LangChain 里配置即可无需训练。 优点是能够快速落地、零算力、调试灵活缺点是私有知识不足复杂推理/垂直领域稳定性差。二、检索增强生成 RAGLangChain 智能体第二层改造给智能体接入私有知识库解决幻觉、私有数据问答不微调模型。一)LangChain 完整改造链路文档加载与切片 DocumentLoader → RecursiveCharacterTextSplitter向量化OpenAIEmbeddings / BGEEmbeddings向量库存储Chroma、FAISS、PGVector检索链 RetrievalQA / ConversationalRetrievalChain接入智能体把 RAG 作为自定义工具注入 Agent实现用户提问 → 智能体判断是否查私有知识库 → 检索 → 生成回答二)核心价值智能体具备私有行业知识、企业文档、业务手册问答能力避免模型幻觉信息来源可控可实时更新知识库不用重训模型三)典型架构Agent → Tools(RAG工具其他工具) → LLM三、模型微调 Fine‑tuningLangChain 智能体第三层深度改造底层改变模型能力适配垂直领域、专属话术、复杂任务逻辑一)微调后在 LangChain 中如何使用微调方式优先LoRA 低秩微调轻量、低成本微调方向- 垂直领域问答工具调用格式对齐智能体推理逻辑优化行业术语、输出风格定制LangChain 接入把微调后的模型通过 ChatOpenAI / HuggingFacePipeline 接入 LangChain替换基座模型。二)适用场景专业领域智能体科研、工业、医疗、无人系统、政务等工具调用频繁、逻辑复杂、通用模型不稳定需要固定话术、固定推理范式三)优缺点优点智能体深度定制推理更稳、幻觉更少、垂直能力极强缺点需要标注数据、算力成本、部署复杂四、LangChain 智能体三层改造最佳实践提示词工程 LangChain Agent 内置工具一)企业项目版提示词工程 RAG检索增强 LangChain Agent 自定义工具链二)专业深度版微调基座模型 提示词工程 RAG 多智能体协作 记忆模块五、总结提示词规范智能体怎么说话、怎么思考、怎么调用工具RAG给智能体喂私有知识解决不知道、幻觉问题微调改造模型底层让智能体天生适配你的业务Q4:langchain与ollama的关系是什么Ollama 负责本地跑大模型LangChain 负责给大模型搭应用流程二者是底层模型以及上层应用框架的上下游配合关系。一、两者分别是什么Ollama本质本地大模型运行工具作用一键在电脑/服务器上下载、运行、管理开源大模型Llama3、Qwen、GLM、Mistral 等提供本地 API 接口解决不用云服务、本地私有化部署大模型数据不出本地LangChain本质大模型应用开发框架作用搭建完整RAG、Agent、知识库、对话链就是你前面那张全流程图把模型、文档、向量库、检索、提示词串成应用解决大模型只是会聊天LangChain 让它能读文档、查知识库、做复杂任务二、二者关系层级关系Ollama 是底层LangChain 是上层 以汽车为例:Ollama 发动机大模型本体LangChain 整车系统车身、方向盘、导航、传感器、工作流程调用关系LangChain 通过 API 调用 Ollama你用 Ollama 在本地启动一个模型如 qwen:7bOllama 开启本地接口 http://localhost:11434LangChain 直接调用这个接口把 Ollama 当作本地版LLM客户端LangChain 负责文档加载、切分、向量库、检索、提示词、输出解析Ollama 只负责生成回答互补关系Ollama只管跑模型、推理没有知识库、检索、工作流能力LangChain不自带模型可以对接 OpenAI、豆包、通义千问也可以对接 Ollama 本地模型三、结合 LangChain 流程图直接对应图中第8步 LLM client大模型客户端云模型 ChatOpenAI 、 ChatTongyi本地模型Ollama完整本地私有化RAG全流程OllamaLangChain文档加载→切分→向量库→检索→Prompt→LangChain调用Ollama本地模型→输出解析四、通俗举例理解Ollama把开源大模型装到个人电脑里让它能说话LangChain给这个本地模型接上PDF、专利、代码库做成私人智能助手没有 LangChainOllama 只能单纯聊天不会读你的私有文档没有 OllamaLangChain 只能用云端大模型无法本地私有化二者结合后可以实现纯本地化智能助手五、实战落地的标准搭配Ollama 本地部署通义千问/Qwen、Llama3 等开源模型LangChain 搭建RAG接入论文、D‑H运动学、ROS2、Python代码、技术手册实现本地私有知识库问答数据部署于本地Q5:具体如何使用langchain结合前面的 LangChain 全流程架构具体使用过程包括文档加载 → 文本分割 → 嵌入向量化 → 向量库 → 检索 → Prompt → 调用模型 → 输出一、第一步环境安装安装依赖库pip install langchain langchain-ollama langchain-chroma langchain-text-splitters pypdflangchain 核心框架langchain-ollama 对接本地 Ollama 模型langchain-chroma 轻量向量数据库pypdf 读取PDF文档提前启动 Ollama本地模型1)安装 Ollama 后终端运行ollama pull qwen:7bollama run qwen:7b2)保持 Ollama 服务开启默认接口 http://localhost:11434 二、场景1最简单对话直接调用本地 Ollama 模型实现基础对话python代码:from langchain_ollama import ChatOllama1. 绑定本地Ollama模型流程图 8.LLM Clientllm ChatOllama(model“qwen:7b”, temperature0.1)2. 提示词流程图 6.Promptres llm.invoke(“用通俗语言解释什么是D‑H参数”)print(res.content)三、场景2搭建完整RAG私有知识库功能上传PDF文档 → 本地向量库存储 → 提问时检索文档回答python 代码from langchain_ollama import ChatOllama, OllamaEmbeddingsfrom langchain_chroma import Chromafrom langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain_community.document_loaders import PyPDFLoaderfrom langchain.chains import RetrievalQAfrom langchain.prompts import PromptTemplate 1. 加载文档流程图 1.Document Loader loader PyPDFLoader(“你的文档.pdf”) # 替换成你的PDF文件docs loader.load() 2. 文本分割流程图 2.Text Splitter text_splitter RecursiveCharacterTextSplitter(chunk_size500, # 文本块大小chunk_overlap100 # 块之间重叠防止信息丢失)splits text_splitter.split_documents(docs) 3. 嵌入模型流程图 3.Embedding Model embeddings OllamaEmbeddings(model“qwen:7b”) 4. 向量库存储流程图 4.Vector Store vectorstore Chroma.from_documents(documentssplits,embeddingembeddings,persist_directory“./chroma_db” # 向量库本地持久化) 5. 检索器流程图 5.Retriever retriever vectorstore.as_retriever(search_kwargs{“k”: 3}) # 召回3个最相关片段 6. 提示词流程图 6.Prompt prompt_template “”你是专业技术助手严格基于以下参考资料回答问题禁止编造内容。参考资料{context}用户问题{question}“”PROMPT PromptTemplate(templateprompt_template,input_variables[“context”, “question”]) 7. 绑定本地模型流程图 8.LLM Client llm ChatOllama(model“qwen:7b”, temperature0.1) 8. 构建RAG链执行问答 qa_chain RetrievalQA.from_chain_type(llmllm,retrieverretriever,return_source_documentsTrue,chain_type_kwargs{“prompt”: PROMPT})提问测试result qa_chain.invoke({“query”: “文档中关于机器人运动学的核心内容是什么”})print(result[“result”])四、对应流程图每一步在代码里的映射Document Loader → PyPDFLoader 读取PDFText Splitter → RecursiveCharacterTextSplitter 切块Embedding Model → OllamaEmbeddings 向量化Vector Store → Chroma 向量数据库Retriever → vectorstore.as_retriever 检索Prompt → PromptTemplate 提示词模板LLM Client → ChatOllama 调用本地模型Output Parser → LangChain默认输出解析直接返回文本五、进阶用 LCEL 链式写法pythonfrom langchain_core.output_parsers import StrOutputParserfrom langchain_core.runnables import RunnablePassthrough构建RAG链rag_chain ({context: retriever, question: RunnablePassthrough()} | PROMPT | llm | StrOutputParser())提问res rag_chain.invoke(“你的问题”)print(res)六、关键使用逻辑总结LangChain不自带大模型必须对接 Ollama/OpenAI/豆包等模型RAG是LangChain最核心用法完整实现私有知识库问答结合Ollama 100%本地私有化部署数据不泄露开发顺序提示词 → 基础对话 → RAG知识库 → Agent智能体七、机器人项目的直接用法把论文、专利、D‑H参数、ROS2手册、Python代码做成PDF用上面代码搭建本地RAG实现本地私有机器人技术问答助手最后唠两句为什么AI大模型成为越来越多程序员转行就业、升职加薪的首选很简单这些岗位缺人且高薪智联招聘的最新数据给出了最直观的印证2025年2月AI领域求职人数同比增幅突破200% 远超其他行业平均水平整个人工智能行业的求职增速达到33.4%位居各行业榜首其中人工智能工程师岗位的求职热度更是飙升69.6%。AI产业的快速扩张也让人才供需矛盾愈发突出。麦肯锡报告明确预测到2030年中国AI专业人才需求将达600万人人才缺口可能高达400万人这一缺口不仅存在于核心技术领域更蔓延至产业应用的各个环节。那0基础普通人如何学习大模型 深耕科技一线十二载亲历技术浪潮变迁。我见证那些率先拥抱AI的同行如何建立起效率与薪资的代际优势。如今我将积累的大模型面试真题、独家资料、技术报告与实战路线系统整理分享于此为你扫清学习困惑共赴AI时代新程。我整理出这套 AI 大模型突围资料包【允许白嫖】✅从入门到精通的全套视频教程✅AI大模型学习路线图0基础到项目实战仅需90天✅大模型书籍与技术文档PDF✅各大厂大模型面试题目详解✅640套AI大模型报告合集✅大模型入门实战训练这份完整版的大模型 AI 学习和面试资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】①从入门到精通的全套视频教程包含提示词工程、RAG、Agent等技术点② AI大模型学习路线图0基础到项目实战仅需90天全过程AI大模型学习路线③学习电子书籍和技术文档市面上的大模型书籍确实太多了这些是我精选出来的④各大厂大模型面试题目详解⑤640套AI大模型报告合集⑥大模型入门实战训练如果说你是以下人群中的其中一类都可以来智泊AI学习人工智能找到高薪工作一次小小的“投资”换来的是终身受益应届毕业生无工作经验但想要系统学习AI大模型技术期待通过实战项目掌握核心技术。零基础转型非技术背景但关注AI应用场景计划通过低代码工具实现“AI行业”跨界。业务赋能 突破瓶颈传统开发者Java/前端等学习Transformer架构与LangChain框架向AI全栈工程师转型。获取方式有需要的小伙伴可以保存图片到wx扫描二v码免费领取【保证100%免费】
