一、底层引擎LLM定义与架构LLM 全称Large Language Model大语言模型简称大模型底层架构基于Transformer2017年Google团队在论文《Attention Is All You Need》中提出工作原理本质是文字接龙游戏通过预测下一个概率最高的词生成连续文本发展历程时间事件意义2017年Transformer架构提出奠定大模型的技术基础2018年GPT-1发布开启新的范式转变2022年11月GPT-3.5发布首个达到可用级别的大模型2023年3月GPT-4发布大幅提升AI能力天花板2023年后Claude、Gemini等应用出现AI赛道从OpenAI独角戏变为多强竞争二、数据处理单元Token核心特性定义大模型处理文本的最小单位词元化通过Tokenizer分词器将用户输入的文本切分为片段给到大模型编码过程User-Tokenizer-LLM。两步走——1.切分文本为N个Token2.映射Token文字为Token ID数字。解码过程LLM-Tokenizer-User。一步走——将1个Token ID数字映射为Token文字。Token 与自然语言单位的关系语言与 Token 的关系示例中文非一一对应可能被拆分“工作坊” “工作”“坊”简单英文单词常见词通常对应1个Token“hello” 1 Token复杂英文单词可能被拆分“helpful” “help”“ful”特殊字符可能需要多个Token展示√ 3 TokenToken 量化参考1 个 Token ≈ 0.75 个英文单词1 个 Token ≈ 1.5-2 个汉字40万 Token ≈ 60-80万汉字 或 30万英文单词三、临时记忆体Context上下文核心概念定义大模型每次处理任务时接收的信息总和相当于模型的“临时记忆”容量限制由上下文窗口Context Window定义即Context能容纳的最大Token数量主流模型 Context Window 对比模型Context Window (Token)约对应汉字数量GPT-5.4105万约157.5万Gemini 3.1 Pro100万约150万Claude Opus 4.6100万约150万突破Context Window限制的方案RAG 技术检索增强生成从知识库中抽取与问题最相关的片段仅将关键信息送入模型降低Token消耗四、指令交互Prompt提示词定义与分类Prompt大模型接收的具体问题或指令直接决定模型的输出质量Prompt类型–User Prompt用户输入的具体任务如帮我写一首诗 or 请帮我写一首五言绝句主题是秋天的落叶风格要悲凉一点–System Prompt开发者后台配置的人设与做事规则如你是一个耐心的数学老师当学生问你数学问题时不要直接给答案而是要一步步引导学生思考帮助他们理解解题的思路Prompt Engineering提示词工程核心原则清晰、具体、明确研究怎么把问题/指令说清楚让大模型更精准地理解你的意图现状曾经重要但重要性逐渐下降主要是大模型能力提升快越来越会推测模糊问题/指令的意图五、外部能力扩展Tool工具/函数核心作用定义大模型调用的外部函数使其能够感知和影响外部环境解决痛点弥补大模型无法获取实时信息如天气、计算能力有限等弱点核心作用用户提问-平台转发至大模型转发内容还包含目前可用的工具列表如天气查询工具、计算器工具大模型分析-生成工具调用指令平台执行调用-平台获取结果-平台返回调用结果至大模型大模型整理结果-自然语言输出角色分工角色职责用户输入问题/指令大模型1.选择工具、生成调用参数2.归纳总结工具执行结果工具执行具体功能如查询天气平台Agent串联流程转发信息、执行工具调用传话筒角色因为用户、大模型和工具无法直接对话六、工具调用MCP全称Model Context Protocol模型上下文协议本质统一的工具接入规范解决不同平台接入规范不一致的问题比如OpenAI、Anthropic、Google三个平台各自有接入规范需要写多个接入规范只想弄一个统一的技术规范标准价值工具开发者只需按MCP规范开发一次即可在所有支持MCP的平台使用类比手机都统一用Type-C充电口七、自主决策系统Agent定义能够自主规划、自主调用工具持续工作直至完成用户任务的系统核心能力多步骤推理、工具选择、流程控制代表产品Claude Code、Codex、Gemini CLI等典型构建模式React、Plan and Execute等八、任务定制Agent Skill核心能力定义给Agent的说明文档包含任务规则、执行步骤、输出格式等结构–元数据层name名称、description描述–指令层目标、执行步骤、判断规则、输出格式、示例技术实现存储形式Markdown文档文档必须为SKILL.md存放位置特定目录如Claude Code找到用户目录的.claude/skills文件夹加载机制仅在用户问题与技能名称/描述相关时加载完整指令九、概念体系回顾核心引擎 数据单位 记忆空间 交互接口 外部能力 工具标准 决策系统 任务定制LLM大模型Token大模型处理数据的最基本单元Context大模型每次处理任务时接收到的信息总和Context Window大模型的Context最多能够存储的Token量PromptUser/System用户或系统当前给大模型下达的具体指令或问题Tool大模型用来感知和影响外部环境的函数MCP统一了工具接入格式的标准协议Agent能自主规划和调用工具、直至解决用户问题的程序Agent Skill给Agent看的说明文档十、补充细节Transformer架构虽由Google提出但由OpenAI通过GPT系统引爆Token切分原理基于BPE字节对编码算法模型自主学习的文本切分规则Agent Skill高级特性支持允许代码、引用资源采用渐进式披露机制节省TokenRAG技术通过检索相关片段而非全文有效解决Context Window限制问题视频指路https://www.bilibili.com/video/BV1E7wtzaEdq/?spm_id_from333.337.search-card.all.clickvd_sourcef50ab1a8c52791f592580e80a16e5536
AI核心概念大串联
一、底层引擎LLM定义与架构LLM 全称Large Language Model大语言模型简称大模型底层架构基于Transformer2017年Google团队在论文《Attention Is All You Need》中提出工作原理本质是文字接龙游戏通过预测下一个概率最高的词生成连续文本发展历程时间事件意义2017年Transformer架构提出奠定大模型的技术基础2018年GPT-1发布开启新的范式转变2022年11月GPT-3.5发布首个达到可用级别的大模型2023年3月GPT-4发布大幅提升AI能力天花板2023年后Claude、Gemini等应用出现AI赛道从OpenAI独角戏变为多强竞争二、数据处理单元Token核心特性定义大模型处理文本的最小单位词元化通过Tokenizer分词器将用户输入的文本切分为片段给到大模型编码过程User-Tokenizer-LLM。两步走——1.切分文本为N个Token2.映射Token文字为Token ID数字。解码过程LLM-Tokenizer-User。一步走——将1个Token ID数字映射为Token文字。Token 与自然语言单位的关系语言与 Token 的关系示例中文非一一对应可能被拆分“工作坊” “工作”“坊”简单英文单词常见词通常对应1个Token“hello” 1 Token复杂英文单词可能被拆分“helpful” “help”“ful”特殊字符可能需要多个Token展示√ 3 TokenToken 量化参考1 个 Token ≈ 0.75 个英文单词1 个 Token ≈ 1.5-2 个汉字40万 Token ≈ 60-80万汉字 或 30万英文单词三、临时记忆体Context上下文核心概念定义大模型每次处理任务时接收的信息总和相当于模型的“临时记忆”容量限制由上下文窗口Context Window定义即Context能容纳的最大Token数量主流模型 Context Window 对比模型Context Window (Token)约对应汉字数量GPT-5.4105万约157.5万Gemini 3.1 Pro100万约150万Claude Opus 4.6100万约150万突破Context Window限制的方案RAG 技术检索增强生成从知识库中抽取与问题最相关的片段仅将关键信息送入模型降低Token消耗四、指令交互Prompt提示词定义与分类Prompt大模型接收的具体问题或指令直接决定模型的输出质量Prompt类型–User Prompt用户输入的具体任务如帮我写一首诗 or 请帮我写一首五言绝句主题是秋天的落叶风格要悲凉一点–System Prompt开发者后台配置的人设与做事规则如你是一个耐心的数学老师当学生问你数学问题时不要直接给答案而是要一步步引导学生思考帮助他们理解解题的思路Prompt Engineering提示词工程核心原则清晰、具体、明确研究怎么把问题/指令说清楚让大模型更精准地理解你的意图现状曾经重要但重要性逐渐下降主要是大模型能力提升快越来越会推测模糊问题/指令的意图五、外部能力扩展Tool工具/函数核心作用定义大模型调用的外部函数使其能够感知和影响外部环境解决痛点弥补大模型无法获取实时信息如天气、计算能力有限等弱点核心作用用户提问-平台转发至大模型转发内容还包含目前可用的工具列表如天气查询工具、计算器工具大模型分析-生成工具调用指令平台执行调用-平台获取结果-平台返回调用结果至大模型大模型整理结果-自然语言输出角色分工角色职责用户输入问题/指令大模型1.选择工具、生成调用参数2.归纳总结工具执行结果工具执行具体功能如查询天气平台Agent串联流程转发信息、执行工具调用传话筒角色因为用户、大模型和工具无法直接对话六、工具调用MCP全称Model Context Protocol模型上下文协议本质统一的工具接入规范解决不同平台接入规范不一致的问题比如OpenAI、Anthropic、Google三个平台各自有接入规范需要写多个接入规范只想弄一个统一的技术规范标准价值工具开发者只需按MCP规范开发一次即可在所有支持MCP的平台使用类比手机都统一用Type-C充电口七、自主决策系统Agent定义能够自主规划、自主调用工具持续工作直至完成用户任务的系统核心能力多步骤推理、工具选择、流程控制代表产品Claude Code、Codex、Gemini CLI等典型构建模式React、Plan and Execute等八、任务定制Agent Skill核心能力定义给Agent的说明文档包含任务规则、执行步骤、输出格式等结构–元数据层name名称、description描述–指令层目标、执行步骤、判断规则、输出格式、示例技术实现存储形式Markdown文档文档必须为SKILL.md存放位置特定目录如Claude Code找到用户目录的.claude/skills文件夹加载机制仅在用户问题与技能名称/描述相关时加载完整指令九、概念体系回顾核心引擎 数据单位 记忆空间 交互接口 外部能力 工具标准 决策系统 任务定制LLM大模型Token大模型处理数据的最基本单元Context大模型每次处理任务时接收到的信息总和Context Window大模型的Context最多能够存储的Token量PromptUser/System用户或系统当前给大模型下达的具体指令或问题Tool大模型用来感知和影响外部环境的函数MCP统一了工具接入格式的标准协议Agent能自主规划和调用工具、直至解决用户问题的程序Agent Skill给Agent看的说明文档十、补充细节Transformer架构虽由Google提出但由OpenAI通过GPT系统引爆Token切分原理基于BPE字节对编码算法模型自主学习的文本切分规则Agent Skill高级特性支持允许代码、引用资源采用渐进式披露机制节省TokenRAG技术通过检索相关片段而非全文有效解决Context Window限制问题视频指路https://www.bilibili.com/video/BV1E7wtzaEdq/?spm_id_from333.337.search-card.all.clickvd_sourcef50ab1a8c52791f592580e80a16e5536
