本文深入探讨了智能体Agent的核心能力包括规划、推理、自我反思以及工具使用等关键技能。文章从功能、核心能力及技术工程三个维度解析了Agent框架详细介绍了思维链CoT、思维树ToT、自一致性self-consistency、ReAct、Reflexion和CoH等高级推理方法并阐述了函数调用Function call和模型上下文协议MCP等工具使用方式。此外还讨论了短期记忆和长期记忆的构建特别是最大内积搜索MIPS技术在长期记忆检索中的应用。本文旨在帮助读者全面理解智能体Agent的工作原理和实现方法为构建高效、智能的Agent系统提供理论指导和实践参考。1Agent 架构Agent架构可以从功能核心能力以及工程技术维度进行定义。1.1功能维度复旦大学张奇团队在关于Agent的综述中将基于大语言模型的智能体分为三功能模块大脑 Brain、感知 Perception) 与行动 Action。大脑模块作为控制中心承担记忆、思考与决策等基础任务感知模块负责接收并处理来自外部环境的多模态信息行动模块则借助工具执行任务并影响环境。比如询问 “是否会下雨“ 时感知模块将指令转化为LLM可理解的表示形式大脑模块根据当前天气和网络气象信息进行推理最终行动模块作出回应并将雨伞递给人类。通过重复这一过程智能体能够持续获取反馈并与环境互动。1.2核心能力维度前openAl Weng Lilian在博客中认为 Agent 需要具备三大核心能力即规划 Planning记忆 Memory 和工具使用 Tool use。规划中主要目标是对任务进行合理的拆解需要三种能力相互的融合即三种能力相互依赖共同对任务进行拆解得到可验证的子步骤也有论文称之为 reasoning-planning或者谋略deliberation。记忆可以分为短期和长期记忆短期记忆通过上下文学习的Prompt 工程进行而长期记忆通过最大内积搜索Maximum Inner Product Search MIPS策略主要是对记忆进行编码存储和检索的能力。在执行阶段借助工具扩充Agent的能力边界如何认识工具使用工具和制作工具等成为关键。图1Agent 技术能力框架1.3工程技术维度模块化推理、知识与语言 (Modular Reasoning, Knowledge and Language MRKL) 通过将通用大语言模型作为 “路由器” (router)将用户的查询或任务动态分配给不同 “专家模块” 。MRKL系统主要由两部分构成•通用大语言模型。接收输入如用户问题、任务指令通过自然语言理解和推理判断任务类型或所需工具并选择最合适的专家模块处理。•专家模块。针对特定任务设计的专用工具或模块例如计算器、数据库查询接口、逻辑推理引擎、外部API如天气查询、代码执行器等。处理 LLM 不擅长或无法高效完成的任务如精确计算、实时数据访问、符号推理等确保结果的准确性和可靠性。目前流行的Agent开源项目有AutoGPT、 BabyAGI、Generative Agents、MetaGPT等。一个智能体的所具有的核心能力是一致的本文以Planning、Memory和Tool use 为框架进行介绍。2规划 Planning从完成任务的维度智能体对任务进行拆解然后对拆解的步骤进行反思。2.1任务拆解•思维链Chain of Though CoT思维链CoT是一种让模型在给出最终答案前模拟人类的思考过程生成一系列中间推理步骤的提示技术。它通过 “Let’s think step by step 等提示将复杂的推理任务转化为一系列更简单的步骤。主要解决的问题问题1直接回答的局限性。对于需要多步逻辑推理的问题如数学题、逻辑谜题模型直接生成答案的错误率很高。问题2提升透明度和可信度。CoT使模型的思考过程变得可见便于人类理解和验证其结论的合理性而不是一个“黑箱”答案。举例“一个篮子里有5个苹果你拿走了2个又放进去3个最后有多少个苹果? ”可以分为三个步骤进行拆解步骤1初始有5个苹果。步骤2拿走2个剩下5-23个苹果。步骤3又放进去3个现在有336个苹果。最终答案6个。•思维树Tree of Though ToT思维树 ToT是CoT的泛化。它不再局限于一条线性的推理链而是在每一步思考时同时探索多种可能的推理路径从而形成一个树状结构并通过某种评估标准如模型自我评分来选择最有希望的路径继续深入必要时进行回溯。这更接近人类的“深思熟虑”。主要解决的问题问题1CoT的单路径局限。CoT就像一条独木桥一旦某一步走错整个推理就会失败。对于棋类游戏、战略规划等需要探索、权衡和回溯的复杂问题CoT能力不足。问题2全局决策优化。ToT允许模型在决策点“瞻前顾后”评估不同选择的长期后果从而做出更优的全局决策。举例解决一个数独游戏步骤1模型会识别出当前可填的、可能性最少的空格。步骤2对于这个空格模型生成所有可能的合法数字如可能是2、4、6)形成多条分支。步骤3对每条分支假设填2)向前推理几步评估其可行性是否导致冲突。步骤4如果填2导致冲突则回溯到决策点尝试下一个选项填4)继续探索。通过这种启发式搜索最终找到解。•self-consistency 自一致性自一致性旨在提升CoT可靠性其核心思想是对于同一个问题通过多次采样或使用不同的推理路径提示生成多条不同的推理链和答案然后选择其中出现最频繁的答案作为最终答案。“真理往往掌握在多数手中”。主要解决的问题问题1CoT的随机性。由于大模型生成具有随机性单次CoT推理可能会因为一步的随机错误而得到错误答案。问题2提升鲁棒性和准确性。通过“投票”机制过滤掉那些因随机性而产生的错误路径使得最终答案更加稳定和准确。举例问题“如果一本书打8折后是16元原价是多少?”采样1(CoT路径A)16元是80%所以1%是16/800.2元原价(100%)是0.2*10020元。答案20采样2 (CoT路径B)设原价为X0.8 * X16所以 X16/0.820。答案20采样3(CoT路径C)8折是16元那1折就是2元所以10折是20元。答案20采样4 (CoT路径D)可能出错的路径16*1.219.2。答案19.2答案20出现了3次答案19.2出现了1次。最终采纳答案20。2.2自我反思•ReAct “知行合一”ReAct 是一种将推理与行动交替进行的范式。它打破了传统Agent先推理完再行动或者只行动不推理的模式让模型在每一步行动前先生成推理轨迹在行动后观察反馈形成“思考-行动-观察”的闭环循环。主要解决的问题问题1幻觉与事实错误。纯CoT推理容易产生事实性幻觉缺乏外部信息支撑ReAct通过Acting引入外部工具获取真实信息修正推理。问题2行动缺乏逻辑支撑。纯行动策略往往缺乏宏观规划容易迷失目标ReAct通过Reasoning保持对任务目标的跟踪和策略调整。问题3无法处理由于环境变化带来的推理中断ReAct允许模型根据每一步的观察结果动态调整下一步计划。举例“刚才在格菜美获奖的那位歌手他的第一张专辑叫什么?”。ReAct流程Thought我需要先查一下刚才谁获得了格莱美奖。ActionSearch(“latest Grammy winners”)Observation搜索结果显示Taylor Swift获奖了。Thought现在我知道是Taylor Swift了我需要查她的第一张专辑。ActionSearch(“Taylor Swift first album name”)。Observation搜索结果显示是《Taylor Swift》。Final Answer他的第一张专辑叫《Taylor Swift》。•Reflexion 反思Reflexion 是一种基于语言反馈的强化学习框架但在实际实现中常简化为Prompt工程)。它要求Agent在完成任务失败后通过回顾之前的轨迹 Trajectory生成一段口头”反思“指出哪里做错了以及下次该如何改进。这个”反思”会作为短期记忆加入到下一次尝试的上下文中指导模型避开之前的坑。主要解决的问题问题1重复试错效率低。普通的重试机制往往会让Agent在一个错误路径上反复横跳Reflexion通过显式的”自我批评”强制改变推理路径。问题2缺乏长短期记忆的利用。模型通常 “做完即忘”Reflexion将失败经验转化为语义记忆即时提升后续表现。问题3复杂任务成功率低在需要多步推理的复杂场景中单次Pass率极低Reflexion通过迭代式优化显著提升成功率。举例编写一个Python函数解决特定的算法题。尝试1Agent生成了代码A-运行测试用例-报错这部分逻辑导致数组越界。Reflexion阶段Agent分析报错生成反思”我在处理循环边界时使用了range(n)但在访问i计1时导致了越界下次我应该使用 range(n-1)或者增加边界检查。”尝试2Agent读取题目上一轮的反思-生成代码B修正了边界问题-测试通过。•chain of Hindsight CoHCoH 是一种利用”后见之明”数据进行微调或提示的方法。它不仅向模型展示正确答案还同时展示一系列带有反馈注解的历史输出包括正面反馈的好的输出和负面反馈的坏的输出)。模型通过学习“因为做了X导致了坏结果因为做了Y导致了好结果“这种成对的对比信息从而理解如何生成更符合人类偏好的答案。主要解决的问题问题1不仅知其然更知其所以然普通的SFT监督微调只教模型“什么是对的”CoH通过对比教模型“根据反馈调整输出”。问题2对齐人类偏好的通用性解决RLHF 人类反馈强化学习训练过程复杂、不稳定得问题用类似于监督学习的方式达到将反馈融入生成的目的。问题3细粒度控制生成质量允许用户在推理时通过指定”目标反馈”例如“给我就像那个得了满分的答案一样的输出”来控制生成结果。举例“写一段关于苹果的描述”。训练/提示数据构造输入写一段关于苹果的描述。负面反馈“这句话太简单了像小学生写的。” - 对应输出“苹果是红的好吃的。”正面反馈“这句话辞藻华丽富有想象力。” -对应输出“那是一枚诱人的深红果实宛如伊甸园中遗落的宝石散发着秋日清晨的甜香。”推理应用Prompt参考上述反馈模式请给我生成一个“富有想象力”的关于梨子的描述。Mode输出模仿正面反馈的风格生成关于梨子的高质量文本。3Tool use大模型在完成任务时有以下问题•记忆限制基于大语言模型的 Agent 无法记住所有的训练数据可能无法准确回忆特定知识。•知识幻觉与偏差Agent 可能生成不存在的“幻觉”知识或受上下文提示影响而导向错误答案。•领域知识不足对于特定专业领域如医疗、金融Agent的专业能力有限。MRKL中的专家系统实际就是Agent中需要使用的工具。工具拓展了使用者的能力边界对于Agent也一样。工具可以作为一种”即插即用”的模块为Agent 增强专业知识和适应领域需求。并且工具将Agent 从一个纯“语言大脑”升级为一个可以调用外部专业能力的“行动者”。大模型使用工具有不同的层级初级阶段是open AI 使用的 function call 模式更像是通过规则匹配到特定的函数进行使用。更进一步是MCP是一个标准将不同的工具统一调用的格式减少了大模型理解和使用的成本。以上工具使用的方式都需要经历的过程是认识工具使用工具和制作工具。可借助大语言模型的零样本和少样本学习能力认识特定的工具。在认识工具的基础上Agent需要通过实践来掌握工具的使用技巧并具备适应不同场景的泛化能力。可以通过两种方式学习如何使用工具模仿学习和和反馈学习。为了让工具更契合Agent的需求最高阶的能力是能够创造新工具。专为Agent设计的工具应更具模块化并拥有更友好的输入输出格式。在指令和示例的引导下Agent可以编写全新的可执行程序作为工具以及将多个现有工具封装成功能更强大的复合工具并具备自我调试能力。3.1函数调用 Function call这是工具调用的初始落地形态以 OpenAI 的 Function Call 为代表核心是 “让模型按预设规则触发工具”。适用场景是简单、独立的单点工具调用如天气查询、计算器、单一 API 调用核心流程• 开发者手动定义工具的函数列表并传入大模型• 模型接收用户查询后判断是否需要调用工具生成符合函数格式的调用指令• 外部执行器执行函数获取结果并回填到模型上下文模型整合结果生成回答。核心痛点• 无统一标准每个工具的函数描述、参数格式都不同新增工具需重新配置模型需逐一学习适配成本随工具数量线性上升• 协同能力弱仅支持单一工具的单点调用无法实现多工具的串联 / 并行协同如 “先查股票价格再计算收益率最后生成报告”• 容错性差参数格式错误直接导致调用失败对模型的参数生成准确性要求极高。3.2模型上下文协议 MCP为解决 Function Call 的 “碎片化” 问题MCP(Model Context Protocol) 作为标准化协议应运而生核心是 “定义一套通用的工具调用语言让所有工具按同一标准封装”。核心改进• 统一工具描述所有工具必须遵循 MCP 定义的元数据 schema如工具名称、功能、输入输出类型、权限范围消除格式差异• 标准化调用流程定义 “模型请求 - 工具响应 - 结果回填” 的通用交互范式模型只需学习一套流程即可调用任意 MCP 兼容工具• 增强上下文管理支持多轮调用的上下文流转、调用失败重试、参数自动校验等机制提升调用稳定性。核心价值实现 “一次适配多工具复用”大幅降低模型的理解成本和开发者的适配成本为多工具协同奠定基础。MCP 不是替代 Function Call而是对 Function Call 的 “标准化封装”。Function Call 是 “具体的执行动作”MCP 是 “执行动作的通用规则”。例如按 MCP 封装的get_stock_price函数其调用指令格式与get_weather函数完全一致模型无需分别学习。4Memory文本将记忆分为短期记忆和长期记忆。短期记忆特点为即来即用一般为当前对话的上下文等。而长期记忆需要进行相关知识的补充来辅助判断关键的技术是如何的检索知识。最大内积搜索 MIPS 是一种向量检索技术核心目标是在大规模向量集合中快速找到与查询向量的内积值最大的一组向量。在大模型 Agent 的外部记忆场景中内积值可直接衡量两个向量的相似度是实现 “记忆检索” 的核心算法。MIPS 对应的是长期记忆的 “检索” 环节完整流程如下记忆编码对需要长期存储的信息如历史对话、领域知识文档通过大模型的 Embedding 接口转化为固定维度的向量记忆存储将向量写入支持 MIPS 的向量数据库并构建 ANN 索引记忆检索首先将查询文本转化为向量其次向量数据库执行 MIPS返回 Top-k 最相关的向量最后将向量对应的原始文本 / 数据回填到大模型的上下文窗口记忆更新新的记忆向量会持续写入数据库索引也会定期更新以保证检索精度。MIPS检索中常用的最近邻 ANN技术包括LSHANNOYHNSWFAISSScaNN技术核心优势核心劣势适用向量规模适用向量维度推荐场景LSH理论扎实易并行高维精度差调优复杂亿级低维512推荐系统粗召回、分布式检索ANNOY实现简单内存低高维精度差不适合亿级十万百万级低中维1024个人项目、原型验证、增量更新HNSW高维精度与速度双优支持增量索引构建慢内存高于 ANNOY百万亿级高维1024~2048大模型 Agent 实时记忆检索、向量数据库FAISS集成多种算法CPU/GPU 加速超大规模API 复杂参数调优难十亿级低高维超大规模向量检索、企业级系统ScaNN超大规模下精度高内存低索引构建慢调优复杂十亿级低高维企业级搜索与推荐系统最后对于正在迷茫择业、想转行提升或是刚入门的程序员、编程小白来说有一个问题几乎人人都在问未来10年什么领域的职业发展潜力最大答案只有一个人工智能尤其是大模型方向当下人工智能行业正处于爆发式增长期其中大模型相关岗位更是供不应求薪资待遇直接拉满——字节跳动作为AI领域的头部玩家给硕士毕业的优质AI人才含大模型相关方向开出的月基础工资高达5万—6万元即便是非“人才计划”的普通应聘者月基础工资也能稳定在4万元左右。再看阿里、腾讯两大互联网大厂非“人才计划”的AI相关岗位应聘者月基础工资也约有3万元远超其他行业同资历岗位的薪资水平对于程序员、小白来说无疑是绝佳的转型和提升赛道。对于想入局大模型、抢占未来10年行业红利的程序员和小白来说现在正是最好的学习时机行业缺口大、大厂需求旺、薪资天花板高只要找准学习方向稳步提升技能就能轻松摆脱“低薪困境”抓住AI时代的职业机遇。如果你还不知道从何开始我自己整理一套全网最全最细的大模型零基础教程我也是一路自学走过来的很清楚小白前期学习的痛楚你要是没有方向还没有好的资源根本学不到东西下面是我整理的大模型学习资源希望能帮到你。扫码免费领取全部内容最后1、大模型学习路线2、从0到进阶大模型学习视频教程从入门到进阶这里都有跟着老师学习事半功倍。3、 入门必看大模型学习书籍文档.pdf书面上的技术书籍确实太多了这些是我精选出来的还有很多不在图里4、AI大模型最新行业报告2026最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5、面试试题/经验【大厂 AI 岗位面经分享107 道】【AI 大模型面试真题102 道】【LLMs 面试真题97 道】6、大模型项目实战配套源码适用人群四阶段学习规划共90天可落地执行第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容3、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
小白程序员必收藏！轻松入门大模型智能体Agent核心能力与实战
本文深入探讨了智能体Agent的核心能力包括规划、推理、自我反思以及工具使用等关键技能。文章从功能、核心能力及技术工程三个维度解析了Agent框架详细介绍了思维链CoT、思维树ToT、自一致性self-consistency、ReAct、Reflexion和CoH等高级推理方法并阐述了函数调用Function call和模型上下文协议MCP等工具使用方式。此外还讨论了短期记忆和长期记忆的构建特别是最大内积搜索MIPS技术在长期记忆检索中的应用。本文旨在帮助读者全面理解智能体Agent的工作原理和实现方法为构建高效、智能的Agent系统提供理论指导和实践参考。1Agent 架构Agent架构可以从功能核心能力以及工程技术维度进行定义。1.1功能维度复旦大学张奇团队在关于Agent的综述中将基于大语言模型的智能体分为三功能模块大脑 Brain、感知 Perception) 与行动 Action。大脑模块作为控制中心承担记忆、思考与决策等基础任务感知模块负责接收并处理来自外部环境的多模态信息行动模块则借助工具执行任务并影响环境。比如询问 “是否会下雨“ 时感知模块将指令转化为LLM可理解的表示形式大脑模块根据当前天气和网络气象信息进行推理最终行动模块作出回应并将雨伞递给人类。通过重复这一过程智能体能够持续获取反馈并与环境互动。1.2核心能力维度前openAl Weng Lilian在博客中认为 Agent 需要具备三大核心能力即规划 Planning记忆 Memory 和工具使用 Tool use。规划中主要目标是对任务进行合理的拆解需要三种能力相互的融合即三种能力相互依赖共同对任务进行拆解得到可验证的子步骤也有论文称之为 reasoning-planning或者谋略deliberation。记忆可以分为短期和长期记忆短期记忆通过上下文学习的Prompt 工程进行而长期记忆通过最大内积搜索Maximum Inner Product Search MIPS策略主要是对记忆进行编码存储和检索的能力。在执行阶段借助工具扩充Agent的能力边界如何认识工具使用工具和制作工具等成为关键。图1Agent 技术能力框架1.3工程技术维度模块化推理、知识与语言 (Modular Reasoning, Knowledge and Language MRKL) 通过将通用大语言模型作为 “路由器” (router)将用户的查询或任务动态分配给不同 “专家模块” 。MRKL系统主要由两部分构成•通用大语言模型。接收输入如用户问题、任务指令通过自然语言理解和推理判断任务类型或所需工具并选择最合适的专家模块处理。•专家模块。针对特定任务设计的专用工具或模块例如计算器、数据库查询接口、逻辑推理引擎、外部API如天气查询、代码执行器等。处理 LLM 不擅长或无法高效完成的任务如精确计算、实时数据访问、符号推理等确保结果的准确性和可靠性。目前流行的Agent开源项目有AutoGPT、 BabyAGI、Generative Agents、MetaGPT等。一个智能体的所具有的核心能力是一致的本文以Planning、Memory和Tool use 为框架进行介绍。2规划 Planning从完成任务的维度智能体对任务进行拆解然后对拆解的步骤进行反思。2.1任务拆解•思维链Chain of Though CoT思维链CoT是一种让模型在给出最终答案前模拟人类的思考过程生成一系列中间推理步骤的提示技术。它通过 “Let’s think step by step 等提示将复杂的推理任务转化为一系列更简单的步骤。主要解决的问题问题1直接回答的局限性。对于需要多步逻辑推理的问题如数学题、逻辑谜题模型直接生成答案的错误率很高。问题2提升透明度和可信度。CoT使模型的思考过程变得可见便于人类理解和验证其结论的合理性而不是一个“黑箱”答案。举例“一个篮子里有5个苹果你拿走了2个又放进去3个最后有多少个苹果? ”可以分为三个步骤进行拆解步骤1初始有5个苹果。步骤2拿走2个剩下5-23个苹果。步骤3又放进去3个现在有336个苹果。最终答案6个。•思维树Tree of Though ToT思维树 ToT是CoT的泛化。它不再局限于一条线性的推理链而是在每一步思考时同时探索多种可能的推理路径从而形成一个树状结构并通过某种评估标准如模型自我评分来选择最有希望的路径继续深入必要时进行回溯。这更接近人类的“深思熟虑”。主要解决的问题问题1CoT的单路径局限。CoT就像一条独木桥一旦某一步走错整个推理就会失败。对于棋类游戏、战略规划等需要探索、权衡和回溯的复杂问题CoT能力不足。问题2全局决策优化。ToT允许模型在决策点“瞻前顾后”评估不同选择的长期后果从而做出更优的全局决策。举例解决一个数独游戏步骤1模型会识别出当前可填的、可能性最少的空格。步骤2对于这个空格模型生成所有可能的合法数字如可能是2、4、6)形成多条分支。步骤3对每条分支假设填2)向前推理几步评估其可行性是否导致冲突。步骤4如果填2导致冲突则回溯到决策点尝试下一个选项填4)继续探索。通过这种启发式搜索最终找到解。•self-consistency 自一致性自一致性旨在提升CoT可靠性其核心思想是对于同一个问题通过多次采样或使用不同的推理路径提示生成多条不同的推理链和答案然后选择其中出现最频繁的答案作为最终答案。“真理往往掌握在多数手中”。主要解决的问题问题1CoT的随机性。由于大模型生成具有随机性单次CoT推理可能会因为一步的随机错误而得到错误答案。问题2提升鲁棒性和准确性。通过“投票”机制过滤掉那些因随机性而产生的错误路径使得最终答案更加稳定和准确。举例问题“如果一本书打8折后是16元原价是多少?”采样1(CoT路径A)16元是80%所以1%是16/800.2元原价(100%)是0.2*10020元。答案20采样2 (CoT路径B)设原价为X0.8 * X16所以 X16/0.820。答案20采样3(CoT路径C)8折是16元那1折就是2元所以10折是20元。答案20采样4 (CoT路径D)可能出错的路径16*1.219.2。答案19.2答案20出现了3次答案19.2出现了1次。最终采纳答案20。2.2自我反思•ReAct “知行合一”ReAct 是一种将推理与行动交替进行的范式。它打破了传统Agent先推理完再行动或者只行动不推理的模式让模型在每一步行动前先生成推理轨迹在行动后观察反馈形成“思考-行动-观察”的闭环循环。主要解决的问题问题1幻觉与事实错误。纯CoT推理容易产生事实性幻觉缺乏外部信息支撑ReAct通过Acting引入外部工具获取真实信息修正推理。问题2行动缺乏逻辑支撑。纯行动策略往往缺乏宏观规划容易迷失目标ReAct通过Reasoning保持对任务目标的跟踪和策略调整。问题3无法处理由于环境变化带来的推理中断ReAct允许模型根据每一步的观察结果动态调整下一步计划。举例“刚才在格菜美获奖的那位歌手他的第一张专辑叫什么?”。ReAct流程Thought我需要先查一下刚才谁获得了格莱美奖。ActionSearch(“latest Grammy winners”)Observation搜索结果显示Taylor Swift获奖了。Thought现在我知道是Taylor Swift了我需要查她的第一张专辑。ActionSearch(“Taylor Swift first album name”)。Observation搜索结果显示是《Taylor Swift》。Final Answer他的第一张专辑叫《Taylor Swift》。•Reflexion 反思Reflexion 是一种基于语言反馈的强化学习框架但在实际实现中常简化为Prompt工程)。它要求Agent在完成任务失败后通过回顾之前的轨迹 Trajectory生成一段口头”反思“指出哪里做错了以及下次该如何改进。这个”反思”会作为短期记忆加入到下一次尝试的上下文中指导模型避开之前的坑。主要解决的问题问题1重复试错效率低。普通的重试机制往往会让Agent在一个错误路径上反复横跳Reflexion通过显式的”自我批评”强制改变推理路径。问题2缺乏长短期记忆的利用。模型通常 “做完即忘”Reflexion将失败经验转化为语义记忆即时提升后续表现。问题3复杂任务成功率低在需要多步推理的复杂场景中单次Pass率极低Reflexion通过迭代式优化显著提升成功率。举例编写一个Python函数解决特定的算法题。尝试1Agent生成了代码A-运行测试用例-报错这部分逻辑导致数组越界。Reflexion阶段Agent分析报错生成反思”我在处理循环边界时使用了range(n)但在访问i计1时导致了越界下次我应该使用 range(n-1)或者增加边界检查。”尝试2Agent读取题目上一轮的反思-生成代码B修正了边界问题-测试通过。•chain of Hindsight CoHCoH 是一种利用”后见之明”数据进行微调或提示的方法。它不仅向模型展示正确答案还同时展示一系列带有反馈注解的历史输出包括正面反馈的好的输出和负面反馈的坏的输出)。模型通过学习“因为做了X导致了坏结果因为做了Y导致了好结果“这种成对的对比信息从而理解如何生成更符合人类偏好的答案。主要解决的问题问题1不仅知其然更知其所以然普通的SFT监督微调只教模型“什么是对的”CoH通过对比教模型“根据反馈调整输出”。问题2对齐人类偏好的通用性解决RLHF 人类反馈强化学习训练过程复杂、不稳定得问题用类似于监督学习的方式达到将反馈融入生成的目的。问题3细粒度控制生成质量允许用户在推理时通过指定”目标反馈”例如“给我就像那个得了满分的答案一样的输出”来控制生成结果。举例“写一段关于苹果的描述”。训练/提示数据构造输入写一段关于苹果的描述。负面反馈“这句话太简单了像小学生写的。” - 对应输出“苹果是红的好吃的。”正面反馈“这句话辞藻华丽富有想象力。” -对应输出“那是一枚诱人的深红果实宛如伊甸园中遗落的宝石散发着秋日清晨的甜香。”推理应用Prompt参考上述反馈模式请给我生成一个“富有想象力”的关于梨子的描述。Mode输出模仿正面反馈的风格生成关于梨子的高质量文本。3Tool use大模型在完成任务时有以下问题•记忆限制基于大语言模型的 Agent 无法记住所有的训练数据可能无法准确回忆特定知识。•知识幻觉与偏差Agent 可能生成不存在的“幻觉”知识或受上下文提示影响而导向错误答案。•领域知识不足对于特定专业领域如医疗、金融Agent的专业能力有限。MRKL中的专家系统实际就是Agent中需要使用的工具。工具拓展了使用者的能力边界对于Agent也一样。工具可以作为一种”即插即用”的模块为Agent 增强专业知识和适应领域需求。并且工具将Agent 从一个纯“语言大脑”升级为一个可以调用外部专业能力的“行动者”。大模型使用工具有不同的层级初级阶段是open AI 使用的 function call 模式更像是通过规则匹配到特定的函数进行使用。更进一步是MCP是一个标准将不同的工具统一调用的格式减少了大模型理解和使用的成本。以上工具使用的方式都需要经历的过程是认识工具使用工具和制作工具。可借助大语言模型的零样本和少样本学习能力认识特定的工具。在认识工具的基础上Agent需要通过实践来掌握工具的使用技巧并具备适应不同场景的泛化能力。可以通过两种方式学习如何使用工具模仿学习和和反馈学习。为了让工具更契合Agent的需求最高阶的能力是能够创造新工具。专为Agent设计的工具应更具模块化并拥有更友好的输入输出格式。在指令和示例的引导下Agent可以编写全新的可执行程序作为工具以及将多个现有工具封装成功能更强大的复合工具并具备自我调试能力。3.1函数调用 Function call这是工具调用的初始落地形态以 OpenAI 的 Function Call 为代表核心是 “让模型按预设规则触发工具”。适用场景是简单、独立的单点工具调用如天气查询、计算器、单一 API 调用核心流程• 开发者手动定义工具的函数列表并传入大模型• 模型接收用户查询后判断是否需要调用工具生成符合函数格式的调用指令• 外部执行器执行函数获取结果并回填到模型上下文模型整合结果生成回答。核心痛点• 无统一标准每个工具的函数描述、参数格式都不同新增工具需重新配置模型需逐一学习适配成本随工具数量线性上升• 协同能力弱仅支持单一工具的单点调用无法实现多工具的串联 / 并行协同如 “先查股票价格再计算收益率最后生成报告”• 容错性差参数格式错误直接导致调用失败对模型的参数生成准确性要求极高。3.2模型上下文协议 MCP为解决 Function Call 的 “碎片化” 问题MCP(Model Context Protocol) 作为标准化协议应运而生核心是 “定义一套通用的工具调用语言让所有工具按同一标准封装”。核心改进• 统一工具描述所有工具必须遵循 MCP 定义的元数据 schema如工具名称、功能、输入输出类型、权限范围消除格式差异• 标准化调用流程定义 “模型请求 - 工具响应 - 结果回填” 的通用交互范式模型只需学习一套流程即可调用任意 MCP 兼容工具• 增强上下文管理支持多轮调用的上下文流转、调用失败重试、参数自动校验等机制提升调用稳定性。核心价值实现 “一次适配多工具复用”大幅降低模型的理解成本和开发者的适配成本为多工具协同奠定基础。MCP 不是替代 Function Call而是对 Function Call 的 “标准化封装”。Function Call 是 “具体的执行动作”MCP 是 “执行动作的通用规则”。例如按 MCP 封装的get_stock_price函数其调用指令格式与get_weather函数完全一致模型无需分别学习。4Memory文本将记忆分为短期记忆和长期记忆。短期记忆特点为即来即用一般为当前对话的上下文等。而长期记忆需要进行相关知识的补充来辅助判断关键的技术是如何的检索知识。最大内积搜索 MIPS 是一种向量检索技术核心目标是在大规模向量集合中快速找到与查询向量的内积值最大的一组向量。在大模型 Agent 的外部记忆场景中内积值可直接衡量两个向量的相似度是实现 “记忆检索” 的核心算法。MIPS 对应的是长期记忆的 “检索” 环节完整流程如下记忆编码对需要长期存储的信息如历史对话、领域知识文档通过大模型的 Embedding 接口转化为固定维度的向量记忆存储将向量写入支持 MIPS 的向量数据库并构建 ANN 索引记忆检索首先将查询文本转化为向量其次向量数据库执行 MIPS返回 Top-k 最相关的向量最后将向量对应的原始文本 / 数据回填到大模型的上下文窗口记忆更新新的记忆向量会持续写入数据库索引也会定期更新以保证检索精度。MIPS检索中常用的最近邻 ANN技术包括LSHANNOYHNSWFAISSScaNN技术核心优势核心劣势适用向量规模适用向量维度推荐场景LSH理论扎实易并行高维精度差调优复杂亿级低维512推荐系统粗召回、分布式检索ANNOY实现简单内存低高维精度差不适合亿级十万百万级低中维1024个人项目、原型验证、增量更新HNSW高维精度与速度双优支持增量索引构建慢内存高于 ANNOY百万亿级高维1024~2048大模型 Agent 实时记忆检索、向量数据库FAISS集成多种算法CPU/GPU 加速超大规模API 复杂参数调优难十亿级低高维超大规模向量检索、企业级系统ScaNN超大规模下精度高内存低索引构建慢调优复杂十亿级低高维企业级搜索与推荐系统最后对于正在迷茫择业、想转行提升或是刚入门的程序员、编程小白来说有一个问题几乎人人都在问未来10年什么领域的职业发展潜力最大答案只有一个人工智能尤其是大模型方向当下人工智能行业正处于爆发式增长期其中大模型相关岗位更是供不应求薪资待遇直接拉满——字节跳动作为AI领域的头部玩家给硕士毕业的优质AI人才含大模型相关方向开出的月基础工资高达5万—6万元即便是非“人才计划”的普通应聘者月基础工资也能稳定在4万元左右。再看阿里、腾讯两大互联网大厂非“人才计划”的AI相关岗位应聘者月基础工资也约有3万元远超其他行业同资历岗位的薪资水平对于程序员、小白来说无疑是绝佳的转型和提升赛道。对于想入局大模型、抢占未来10年行业红利的程序员和小白来说现在正是最好的学习时机行业缺口大、大厂需求旺、薪资天花板高只要找准学习方向稳步提升技能就能轻松摆脱“低薪困境”抓住AI时代的职业机遇。如果你还不知道从何开始我自己整理一套全网最全最细的大模型零基础教程我也是一路自学走过来的很清楚小白前期学习的痛楚你要是没有方向还没有好的资源根本学不到东西下面是我整理的大模型学习资源希望能帮到你。扫码免费领取全部内容最后1、大模型学习路线2、从0到进阶大模型学习视频教程从入门到进阶这里都有跟着老师学习事半功倍。3、 入门必看大模型学习书籍文档.pdf书面上的技术书籍确实太多了这些是我精选出来的还有很多不在图里4、AI大模型最新行业报告2026最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。5、面试试题/经验【大厂 AI 岗位面经分享107 道】【AI 大模型面试真题102 道】【LLMs 面试真题97 道】6、大模型项目实战配套源码适用人群四阶段学习规划共90天可落地执行第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容3、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
