硬核爆款｜DeepSeek、GPT、Qwen 全架构图合集，Karpathy 狂赞的宝藏画廊！

最近几年大模型赛道好不热闹。叫得上名字的几乎数都数不过来从 GPT、Llama、Gemma、Mistral到 DeepSeek、Qwen、Kimi、GLM、MiniMax 等等新模型几乎以周更的速度出现。但问题是当架构创新越来越多时理解它们反而变得越来越困难。不同论文里的模型结构图风格各异、模块命名不统一即便是研究者也很难快速看清一个模型究竟在哪些地方做出了关键改动。如果把过去几年主流模型的架构放在一起你会发现一个明显的空白我们拥有大量模型却缺少一张清晰的大模型架构图。01大模型架构画廊诞生最近AI 研究者 Sebastian Raschka 就尝试给了这样一张图他将过去几年主流大模型的结构重新绘制并整理成了一个在线图谱 「LLM Architecture Gallery」。原文地址https://sebastianraschka.com/llm-architecture-gallery/#card-olmo-2-7bGitHub 地址https://github.com/rasbt/llm-architecture-gallery根据 Raschka 介绍该网站汇集了他此前两篇博客中的内容这两篇博客分别为《The Big LLM Architecture Comparison》 和 《A Dream of Spring for Open-Weight LLMs》。02画廊页面结构从「LLM Architecture Gallery」页面结构上看这个图谱几乎像一张大模型名录。这里汇集了大量近年来出现的主流模型包括 Llama、DeepSeek、Gemma、Mistral、Qwen、Kimi、GLM等多个系列参数规模从几亿参数的小模型一直延伸到千亿乃至万亿级模型。点击任意模型即可链接到对应位置比如这里我们点击 DeepSeek R1链接就跳转到相应的模型卡每一张模型卡都会展示该模型的核心架构图、关键模块设计、参数规模、发布时间、相关概念等基本信息让读者能够在同一套视觉框架下快速理解模型的结构组成。不止 DeepSeek R1像 Gemma、Llama 等一系列主流模型也都被纳入这一图谱之中。用户只需点击对应模型名称就可以进入该模型的专属页面查看其完整架构示意图以及关键设计细节。