AMD MI400 技术解析：AI GPU 的竞争，为什么已经从“拼芯片”变成了“拼平台”？

几年前选AI GPU看的是FLOPS。现在看的是数据能不能喂得进去。从MI300、MI350到新一代Instinct MI400AMD AI GPU的产品演进不仅是工艺和性能的升级更反映出AI基础设施设计思路的变化。如果回顾近几年AI GPU的发展会发现一个明显趋势行业关注的重点正在从单卡性能逐渐转向平台能力。过去大家讨论GPU更多关注的是计算性能、显存容量和功耗等参数而今天一个大规模AI集群真正关心的问题已经变成GPU之间如何实现更高效的数据通信CPU、GPU、网络如何协同工作数百甚至上千张GPU如何保持稳定的计算效率如何降低系统集成和大规模部署的复杂度这些问题已经无法仅靠提升单张GPU的性能来解决而需要从整个系统架构进行优化。因此MI400值得关注的地方并不仅仅是采用了2nm工艺、升级至HBM4或拥有更高的AI算力而是AMD开始围绕GPU、CPU、高速互联、网络以及机架平台构建更加完整的AI基础设施方案。本文结合目前公开资料从架构设计的角度分析MI400几个值得关注的技术变化并探讨当前AI GPU为什么正在进入“平台竞争”时代。一、AI GPU的竞争为什么开始从FLOPS转向HBM过去几年每一代AI GPU发布时大家最关注的往往都是FLOPS、Tensor Core数量等计算性能指标。但随着大模型持续演进GPU的性能瓶颈正在发生变化。无论是大参数模型、MoE架构还是长上下文推理都对显存容量和显存带宽提出了更高要求。对于很多AI训练任务来说GPU的计算单元并非始终处于满负载状态真正影响整体效率的越来越多地来自内存子系统。换句话说GPU的计算能力越来越强但如果数据无法持续、高效地送达计算单元再高的理论算力也难以充分发挥。因此新一代AI GPU的竞争重点也开始从单纯提升FLOPS逐渐转向计算、显存和数据传输能力之间的平衡。从公开资料来看MI400系列采用CDNA 5架构并升级至HBM4最高可提供432GB显存容量和19.6TB/s显存带宽。相比上一代产品AMD并没有将重点放在单一指标的提升而是进一步强化了内存子系统以适应更大规模模型训练和推理的需求。对于AI基础设施而言这意味着能够支持更大的模型驻留显存减少数据交换带来的额外开销同时提升多任务和高并发推理场景下的资源利用率。可以预见在未来几代AI GPU中HBM将继续成为影响整体性能的重要组成部分而不再只是GPU的一个配套参数。二、从单卡到整个平台AI GPU为什么开始进入“系统竞争”如果说HBM4的升级体现的是单张GPU能力的提升那么MI400系列同步推出的Helios平台则反映出AI GPU产品形态正在发生新的变化。过去高性能GPU更多以独立加速卡的形式交付由服务器厂商完成整机集成用户再根据业务需求部署到数据中心。而随着AI模型规模不断扩大这种模式开始面临新的挑战。当一个AI集群由数百张甚至数千张GPU组成时真正影响整体性能的已经不仅仅是GPU本身而是整个系统架构。例如GPU与GPU之间的数据通信是否高效CPU是否能够持续为GPU提供数据网络带宽是否能够满足大规模参数同步散热系统能否支撑长时间高负载运行电源、液冷、交换网络以及机柜空间是否能够实现协同设计。这些因素共同决定了AI集群的整体计算效率也意味着单独提升GPU性能已经无法完全解决系统瓶颈。因此近年来无论AMD还是NVIDIA都开始从“卖GPU”逐步转向“卖平台”。从NVIDIA的HGX、DGX、NVL72到AMD的Helios都体现出相同的发展趋势——将GPU、CPU、高速网络、液冷散热以及系统拓扑进行一体化设计为客户提供经过验证的整个平台方案而不是单一硬件产品。以Helios为例根据AMD已公开的信息该平台采用72颗MI455X GPU、18颗EPYC Venice CPU配备31TB HBM4内存、800GbE网络以及全液冷散热架构定位于超大规模AI训练与推理场景。值得注意的是Helios的意义并不在于GPU数量更多而在于平台内部各个组件能够围绕同一目标进行协同优化。例如CPU负责数据预处理与调度GPU承担大规模计算任务高速网络负责节点间通信液冷系统则为持续高功耗运行提供稳定的散热能力。对于云服务商和数据中心而言采购对象正在从一张GPU变成一套可快速部署、持续扩展的AI平台。这也是当前AI GPU市场竞争正在发生的重要变化——竞争对象已经不再只是GPU芯片而是围绕GPU构建的整个计算平台。三、GPU算得再快也需要先把数据传过去——互联开始成为AI集群的关键能力如果说过去AI GPU的竞争主要集中在计算能力那么今天大规模AI集群的竞争重点正在逐渐转向互联能力。原因很简单。对于单张GPU而言计算性能主要取决于GPU自身但当训练任务扩展到几十张、几百张甚至上千张GPU时整个系统的效率已经不仅由单卡性能决定而是越来越依赖GPU之间的数据交换能力。以当前主流的大模型训练为例无论是数据并行、张量并行还是流水线并行都需要GPU在训练过程中持续进行参数同步和梯度通信。模型规模越大、GPU数量越多这类通信所占用的时间比例也越高。因此在大规模AI集群中经常会出现一种现象GPU的理论算力很高但实际利用率却没有达到预期。其中一个重要原因就是通信效率成为新的性能瓶颈。从系统架构来看一个AI集群通常存在两个层面的互联Scale-up服务器内部GPU与GPU之间的高速互联Scale-out不同服务器之间通过高速网络组成更大的计算集群。对于Scale-up场景带宽越高、时延越低GPU之间交换参数的效率越高也越有利于提升训练性能。长期以来NVLink一直是NVIDIA AI平台的重要组成部分。它通过专用高速互联将多张GPU组成统一的高性能计算节点降低通信开销提高GPU协同计算效率。而在MI400系列中AMD则选择支持UALink等开放互联标准希望在GPU、CPU以及网络设备之间构建更加开放的高速互联能力。两种方案的设计思路并不相同。NVIDIA更强调软硬件一体化通过CUDA、NVLink以及整个平台的深度协同尽可能释放系统性能AMD则更强调开放标准希望不同厂商的硬件能够实现更好的兼容性和互操作能力为客户提供更加灵活的平台选择。需要指出的是这两种路线并不存在绝对的优劣。对于采用统一技术栈的部署环境一体化平台通常能够获得更好的整体性能和开发体验而对于需要兼顾不同硬件平台、网络架构或长期扩展能力的场景开放标准则能够提供更高的灵活性。随着AI集群规模持续扩大GPU之间的数据通信已经从过去的“辅助能力”逐渐成为影响整体性能的重要因素。未来AI GPU的竞争也将不仅是计算能力的竞争而是计算、存储、互联和系统架构之间的综合竞争。从这一点来看MI400所体现出的变化并不仅仅是一次GPU产品升级更反映出AI基础设施正在进入以平台能力为核心的新阶段。四、从MI400看AI GPU的下一阶段竞争回顾近几年AI GPU的产品演进可以发现一个明显的变化GPU厂商竞争的重点已经不再局限于单张GPU的计算能力而是逐渐扩展到整个AI基础设施。无论是NVIDIA推出的HGX、NVL72还是AMD的Helios平台都体现出相同的发展趋势——GPU正从独立硬件演变为AI平台中的一个核心计算节点。对于未来的AI集群而言真正决定整体性能的将是多个系统能力共同作用的结果包括GPU计算性能、HBM显存带宽、高速互联、CPU协同、网络架构以及散热设计等。从这个角度来看MI400的价值不仅在于升级了CDNA 5架构或HBM4更重要的是反映了AI GPU产品设计思路的变化。与此同时AMD与NVIDIA也展现出两种不同的发展路线。NVIDIA继续依托CUDA、NVLink等成熟生态强化软硬件一体化平台通过深度协同提升整体性能AMD则更加重视开放标准和平台兼容性希望通过UALink等开放互联技术为客户提供更加灵活的基础设施选择。两种路线的目标都是提升AI集群的整体效率只是在生态建设和系统设计上采取了不同策略。未来哪一种模式能够获得更多市场认可还需要更多实际部署案例和应用场景来验证。对于AI基础设施从业者而言这意味着关注点正在从一张GPU的参数转向整个平台架构的能力。例如GPU与GPU之间的通信效率是否能够支撑大规模并行计算CPU、GPU与高速网络之间是否形成合理的数据流液冷、电源以及整机设计是否能够满足持续高负载运行平台是否具备良好的扩展能力和长期运维能力。这些因素都会直接影响AI集群的部署效率、资源利用率以及长期运行稳定性。对于服务器厂商、云服务商以及第三方技术服务团队来说这也意味着未来需要具备更完整的平台级能力而不仅仅是针对单一硬件进行优化。结语从MI300、MI350到MI400可以看到AMD正持续完善自身的AI产品体系而NVIDIA也在不断强化平台和生态优势。虽然目前两家厂商在市场定位和技术路线方面仍存在差异但有一点已经越来越明确——AI GPU的竞争正在从“芯片竞争”逐步演变为“平台竞争”。未来随着GPU、CPU、高速互联、网络和液冷等技术进一步融合AI基础设施将越来越趋向系统化、平台化发展。理解MI400不只是了解一款新的AI GPU更重要的是理解下一代AI计算平台正在如何演进。当GPU不再独立存在当芯片性能不再是唯一标尺AI算力市场的游戏规则正在被重新定义。下一个值得关注的问题是在平台竞争的赛道上谁会成为最终的平台标准制定者维云科技将持续关注AI服务器、GPU硬件及算力基础设施的发展动态为开发者与行业从业者带来深度技术解读与行业分析。