大语言模型核心概念学习笔记

本文面向对大语言模型LLM和智能体Agent技术感兴趣的开发者、产品经理和技术爱好者。通过系统梳理从基础大模型到智能体的完整运作流程帮助读者快速建立对大语言模型核心组件、交互机制和高级概念的整体认知为后续的深入学习和实际应用打下坚实基础。一、大语言模型基础LLM (Large Language Model)大语言模型基于 Transformer 架构构建的深度学习模型。大模型本质上是一个数据函数内部主要由矩阵运算构成。二、核心组件与概念1. Tokenizer分词器Tokenizer负责文本的编码和解码。编码过程会将用户输入的问题分割成Token这是大模型处理文本的最基本单位。2. Context上下文Context大模型每次处理任务时所接收到的信息总和可以理解为大模型的临时记忆体。Context Window上下文窗口Context 能容纳的最大 Token 数量。3. Prompt提示词Prompt用户或系统当前给大模型下达的具体指令或问题。User Prompt用户直接输入的提示词。System Prompt系统预设的提示词用于定义模型的行为和角色。4. Tool工具Tool大模型用来感知和影响外部环境的工具函数。三、从大模型到Agent的完整运作流程从基础的大语言模型到能够自主行动的智能体Agent整个运作流程可以概括为以下几个关键阶段1. 基础大模型处理流程输入处理阶段用户输入用户通过界面输入自然语言指令或问题。文本编码Tokenizer将输入文本分割成Token序列。上下文构建系统将当前Prompt与历史对话如有组合成完整的Context。模型推理大模型基于Transformer架构进行矩阵运算生成下一个Token的概率分布。文本生成通过采样策略如温度采样、Top-p采样选择下一个Token循环生成完整响应。2. 工具增强的大模型当大模型需要与外部世界交互时流程扩展为意图识别模型分析用户请求判断是否需要调用外部工具。工具选择从可用工具列表中匹配最适合的工具如搜索API、计算器、数据库查询等。参数生成模型生成调用工具所需的参数和格式。工具执行系统调用外部工具并获取执行结果。结果整合模型将工具返回的结果整合到响应中形成最终答案。3. 智能体Agent的完整运作循环Agent将上述流程升级为自主决策循环Agent核心运作流程目标理解Agent解析用户指令明确最终目标和约束条件。任务规划将复杂目标分解为可执行的子任务序列。工具调用决策为每个子任务选择是否需要调用工具以及调用哪个工具。执行与监控调用选定的工具执行任务监控执行结果和状态评估是否达到子目标状态更新与反思根据执行结果更新内部状态反思当前策略的有效性必要时重新规划或调整策略循环迭代重复步骤3-5直至所有子任务完成或达到终止条件。结果汇总与报告整合所有子任务结果生成最终响应返回给用户。4. 实际交互示例场景用户要求帮我查一下北京明天天气然后推荐适合的着装Agent运作流程目标分解分解为两个子任务①查询北京明天天气 ②基于天气推荐着装工具调用为任务①调用天气查询API获取温度、降水、风力等数据信息整合将天气数据作为上下文让模型生成着装建议结果生成整合天气信息和着装建议形成完整回答技术栈支持MCP协议标准化模型与工具的交互接口Agent Skill定义Agent可用的工具集和能力范围上下文管理维护对话历史和工具调用记录四、高级概念1. MCP (Model Context Protocol)MCP (Model Context Protocol)模型上下文协议用于标准化模型与外部工具的交互。2. Agent智能体Agent能够自主规划和调用工具直至解决用户问题的程序。Agent Skill给 Agent 看的说明文档定义其能力和操作方式。五、总结本文整理了学习大语言模型过程中的核心概念包括基础架构、关键组件、交互流程和高级概念。理解这些概念是深入学习和应用大语言模型的基础。