DDR带宽 vs TOPS无人驾驶算力 为什么254TOPS也可能跑不满 一、先把问题说透算力≠性能 很多人看到254 TOPS500 TOPS第一反应是 “这芯片太猛了”但工程上真正的情况是真实性能 min(算力, 带宽) 举例真实无人驾驶你有一颗 Orin算力254 TOPSDDR带宽120 GB/s你跑一个 BEV Transformer 模型理论需要≈ 200 TOPS每帧访问数据≈ 4GB 30FPS4GB × 30 120 GB/s DDR直接打满GPU/NPU开始“等数据”算力利用率掉到 30%~50% 结论算力没满带宽先崩了 二、无人驾驶数据流长什么样 一辆车其实在做摄像头 → 感知 → BEV → 融合 → 预测 → 规划 重点每一步都在疯狂访问内存 举例一个目标检测模型输入 → feature mapfeature map → backbonebackbone → neckneck → head 每一步读DDR → 算 → 写DDR → 再读DDR 结论AI不是“算”而是“搬 算 搬”⚡ 三、摄像头数据其实很小很多人误判 例子8路摄像头1080P30FPSRAW10 单路≈ 0.75 Gbps 8路≈ 6 Gbps ≈ 0.75 GB/s 对比数据带宽摄像头0.75 GB/sDDR120 GB/s 差距≈ 160倍 结论摄像头不是瓶颈AI中间数据才是 四、真正吞带宽的是Feature Map 举例BEV模型256 × 256 × 128 × FP16 单帧≈ 16 MB 关键 一帧不是用一次假设多层 ×10多尺度 ×3时序 ×2 实际访问16MB × 60 ≈ 960MB / 帧 30FPS≈ 28.8 GB/s 结论DDR主要在搬中间数据不是输入数据⚡ 五、算术强度决定生死 定义算术强度 运算量 / 数据量 图像理解 举例对比CNN高复用≈ 200 OPS/Byte 可支撑100GB/s → 20 TOPSTransformer低复用≈ 50 OPS/Byte 可支撑100GB/s → 5 TOPS优化后SRAM复用≈ 1000 OPS/Byte 可支撑100GB/s → 100 TOPS 结论模型结构决定性能上限 六、真实翻车案例非常典型 项目Orin 254 TOPSDDR 120 GB/sBEV Transformer 理论≈ 200 TOPS❗ 实际≈ 20~40 TOPS 原因DDR访问爆炸cache命中低feature太大 工程结论算力虚高带宽才是真瓶颈 七、无人驾驶为什么特别吃带宽 原因1多传感器融合Camera → Radar → LiDAR → Fusion 数据在内存反复交换 原因2时序模型 每帧要读历史数据 原因3多尺度特征 多层feature重复读写 结论无人驾驶 数据搬运机器 ⚡ 八、工程判断方法超实用 Step1看DDR100GB/s Step2看模型CNN ✔Transformer ⚠️ Step3算feature Step4估带宽带宽 ≈ feature × 次数 × FPS 判断DDR 需求 × 1.5 九、设计优化真正有用✔ 提高算术强度fusionkernel合并✔ 减少DDR访问SRAM复用tiling✔ 优化数据流pipeline少中间存储✔ 别迷信TOPS 否则TOPS 摆设 十、最终总结无人驾驶系统里算力决定理论上限带宽决定实际表现 更狠一句没有带宽再强TOPS都是“等数据的机器”
DDR带宽 vs TOPS：无人驾驶系统到底卡在哪里？
DDR带宽 vs TOPS无人驾驶算力 为什么254TOPS也可能跑不满 一、先把问题说透算力≠性能 很多人看到254 TOPS500 TOPS第一反应是 “这芯片太猛了”但工程上真正的情况是真实性能 min(算力, 带宽) 举例真实无人驾驶你有一颗 Orin算力254 TOPSDDR带宽120 GB/s你跑一个 BEV Transformer 模型理论需要≈ 200 TOPS每帧访问数据≈ 4GB 30FPS4GB × 30 120 GB/s DDR直接打满GPU/NPU开始“等数据”算力利用率掉到 30%~50% 结论算力没满带宽先崩了 二、无人驾驶数据流长什么样 一辆车其实在做摄像头 → 感知 → BEV → 融合 → 预测 → 规划 重点每一步都在疯狂访问内存 举例一个目标检测模型输入 → feature mapfeature map → backbonebackbone → neckneck → head 每一步读DDR → 算 → 写DDR → 再读DDR 结论AI不是“算”而是“搬 算 搬”⚡ 三、摄像头数据其实很小很多人误判 例子8路摄像头1080P30FPSRAW10 单路≈ 0.75 Gbps 8路≈ 6 Gbps ≈ 0.75 GB/s 对比数据带宽摄像头0.75 GB/sDDR120 GB/s 差距≈ 160倍 结论摄像头不是瓶颈AI中间数据才是 四、真正吞带宽的是Feature Map 举例BEV模型256 × 256 × 128 × FP16 单帧≈ 16 MB 关键 一帧不是用一次假设多层 ×10多尺度 ×3时序 ×2 实际访问16MB × 60 ≈ 960MB / 帧 30FPS≈ 28.8 GB/s 结论DDR主要在搬中间数据不是输入数据⚡ 五、算术强度决定生死 定义算术强度 运算量 / 数据量 图像理解 举例对比CNN高复用≈ 200 OPS/Byte 可支撑100GB/s → 20 TOPSTransformer低复用≈ 50 OPS/Byte 可支撑100GB/s → 5 TOPS优化后SRAM复用≈ 1000 OPS/Byte 可支撑100GB/s → 100 TOPS 结论模型结构决定性能上限 六、真实翻车案例非常典型 项目Orin 254 TOPSDDR 120 GB/sBEV Transformer 理论≈ 200 TOPS❗ 实际≈ 20~40 TOPS 原因DDR访问爆炸cache命中低feature太大 工程结论算力虚高带宽才是真瓶颈 七、无人驾驶为什么特别吃带宽 原因1多传感器融合Camera → Radar → LiDAR → Fusion 数据在内存反复交换 原因2时序模型 每帧要读历史数据 原因3多尺度特征 多层feature重复读写 结论无人驾驶 数据搬运机器 ⚡ 八、工程判断方法超实用 Step1看DDR100GB/s Step2看模型CNN ✔Transformer ⚠️ Step3算feature Step4估带宽带宽 ≈ feature × 次数 × FPS 判断DDR 需求 × 1.5 九、设计优化真正有用✔ 提高算术强度fusionkernel合并✔ 减少DDR访问SRAM复用tiling✔ 优化数据流pipeline少中间存储✔ 别迷信TOPS 否则TOPS 摆设 十、最终总结无人驾驶系统里算力决定理论上限带宽决定实际表现 更狠一句没有带宽再强TOPS都是“等数据的机器”
