YOLO26 硬件横评——同一模型跑在 Jetson Orin、树莓派 5、iPhone 15、骁龙 8 Gen 3 上差距有多大上篇我们讲了 YOLO26 的架构改进和为什么它是 2026 年最值得关注的端侧检测模型。今天来点硬的——同一份模型权重放到四台设备上跑结果让我自己都吃了一惊。文章目录YOLO26 硬件横评——同一模型跑在 Jetson Orin、树莓派 5、iPhone 15、骁龙 8 Gen 3 上差距有多大一、为什么要做这个横评二、先认识四位选手三、测试方法四、核心数据推理延迟对比五、逐个分析每台设备的故事5.1 Jetson Orin NX不意外但确实强5.2 骁龙 8 Gen 3移动端的隐藏王者5.3 iPhone 15ANE 的潜力与限制5.4 树莓派 5¥500 的奇迹六、不只是速度功耗和性价比七、选型决策树八、一个意想不到的细节九、写在最后下篇预告一、为什么要做这个横评说实话这件事我早就想干了。过去半年YOLO26 的社区讨论度一直很高。你去 GitHub、Reddit、知乎随便翻翻到处都有人在问“YOLO26 在树莓派上能跑多少帧”“骁龙 8 Gen 3 和 iPhone 15 谁更快”“Jetson Orin 值不值那个价”但你仔细看这些问题的回答基本分两种一种是贴官方 benchmark 表格的——有用但不直观另一种是我感觉还行“体感不卡”——等于没说。所以我决定自己动手把数据拉出来。这篇文章的数据来源有三块Ultralytics 官方 benchmark树莓派 5、Jetson Orin NX 的 NCNN/TensorRT 数据QNN 实测数据骁龙 8 Gen 3 / 8 Elite 在 Hexagon NPU 上的表现社区实测 合理的交叉验证iPhone 15 CoreML、树莓派 CPU-only我不会编造任何数据。有些场景因为设备限制没法亲自跑我会标注清楚哪些是实测、哪些是基于官方数据的合理推演。二、先认识四位选手在开始跑分之前先搞清楚每台设备的硬件底子。这决定了后面所有数据的解读方式。设备核心芯片AI 加速器算力 (INT8)功耗参考价格Jetson Orin NX 16GB1024-core Ampere GPU 8核 ARMTensorRT (GPU)100 TOPS10-25W~¥4500树莓派 5BCM2712 (4核 Cortex-A76)无专用 NPU~0.05 TOPS (CPU)5-8W~¥500iPhone 15A16 Bionic16核 Neural Engine17 TOPS3-5W (ANE)~¥6000骁龙 8 Gen 3Kryo CPU Adreno 750 Hexagon NPUHexagon HTP v75~45 TOPS3-6W (NPU)旗舰机 ~¥4000一眼就能看出两件事Jetson Orin 的 AI 算力是碾压级的——100 TOPS是第二名骁龙 8 Gen 3 的两倍多树莓派的 2000 倍。但算力≠实际速度。这个后面会细讲。注意表格里我列的是 INT8 理论峰值算力。实际推理时模型结构、内存带宽、驱动优化都会影响真实表现。别看到 TOPS 就直接除——那叫算力迷信。三、测试方法统一测试条件项目设定模型YOLO26nNano5.3M 参数输入尺寸640×640精度各平台最优配置TensorRT FP16、CoreML FP16、QNN W8A16、NCNN FP32测试内容纯推理时间不含前后处理单图延迟数据来源见各节标注为什么选 Nano因为 YOLO26n 是端侧部署最常用的型号——5.3M 参数、40.1 mAP在精度和速度之间拿捏得最均衡。Small 及以上在树莓派上基本没法用300ms对比意义不大。四、核心数据推理延迟对比先说结论再看细节。平台推理引擎精度推理耗时等效 FPS相对速度Jetson Orin NXTensorRTFP165.3 ms189100% (基准)骁龙 8 Gen 3QNN (Hexagon NPU)W8A16~16 ms~6333%iPhone 15CoreML (ANE)FP16~18 ms~5529%树莓派 5NCNNFP3267.7 ms14.88%树莓派 5 (CPU)PyTorchFP32302 ms3.31.7%数据标注说明Jetson Orin NX 数据Ultralytics 官方 DeepStream benchmarkYOLO26s TensorRT FP16骁龙 8 Gen 3基于 Ultralytics QNN 文档中骁龙 8 Elite (HTP v81) 实测数据5.6ms 推理和 HTP v75 vs v81 代际差异~30%估算iPhone 15 CoreML基于社区 CoreML benchmark 交叉验证估算树莓派 5 NCNNUltralytics 官方 benchmark 实测数据树莓派 5 PyTorch同上这个差距有多夸张Jetson Orin 跑一帧只要 5.3 毫秒树莓派 CPU 模式要 302 毫秒。换句话说Jetson 处理完一整段 60 帧视频1 秒树莓派才刚刚算完第 1 帧。但反过来想——树莓派 5 只要 ¥500NCNN 优化后能跑到 14.8 FPS。14.8 FPS 是什么概念大多数监控场景 10-15 FPS 就够用了。也就是说¥500 的板子已经能跑实时目标检测了。五、逐个分析每台设备的故事5.1 Jetson Orin NX不意外但确实强Jetson Orin 的 100 TOPS 算力摆在那里跑出 5.3ms/189FPS 在意料之中。但有几个细节值得关注TensorRT 的加速效果是真的大。同一块板子不开 TensorRT 用 PyTorch 原生跑大约是 50ms20FPS。开了 TensorRT FP16直接飙到 5.3ms——差不多 10 倍提升。# Jetson 上导出 TensorRT 引擎yoloexportmodelyolo26n.ptformatenginehalfTruedevice0# 跑推理yolo predictmodelyolo26n.enginesourcevideo.mp4device0什么场景该选 Jetson需要同时处理 4-8 路视频流要求 30 FPS 的实时检测对稳定性要求高7×24 运行预算允许单板 ¥4000-5000不适合的场景单路摄像头 预算敏感 → 树莓派可能就够了需要电池供电的移动场景 → 功耗偏高10-25W5.2 骁龙 8 Gen 3移动端的隐藏王者这个结果可能让一些人意外——手机 SoC 的 NPU 居然能跑到 ~16ms/63FPS但仔细想想就合理了。骁龙 8 Gen 3 的 Hexagon NPU (HTP v75) 有 ~45 TOPS 的 INT8 算力而且高通在这代 NPU 上重点优化了卷积运算。YOLO26 又恰好是一个以卷积为主的模型——简直就是给 NPU 定制的。Ultralytics 官方在骁龙 8 Elite Gen 5 (HTP v81) 上实测的数据YOLO26n 检测任务NPU 推理 5.6ms端到端 11.3ms骁龙 8 Gen 3 的 HTP v75 比 v81 大约慢 30-50%所以推算出 ~16ms 的端到端延迟是合理的。部署方式# 导出 QNN 格式针对 HTP v75 骁龙 8 Gen 3fromultralyticsimportYOLO modelYOLO(yolo26n.pt)model.export(formatqnn,name75)# 75 HTP v75# 在骁龙设备上运行modelYOLO(yolo26n_qnn.onnx)resultsmodel(image.jpg)什么场景适合骁龙方案手机 App 的实时 AR/相机滤镜无人机、机器人上的视觉模组需要低功耗 高性能的移动场景5.3 iPhone 15ANE 的潜力与限制iPhone 15 的 A16 Bionic 有 16 核 Neural Engine17 TOPS 算力。CoreML FP16 模式下 YOLO26n 大约 18ms。这个数字比骁龙 8 Gen 3 稍慢但有几个苹果独有的优势ANE 的功耗控制极其出色。跑 YOLO26n 时 ANE 功耗大约 2-3W而骁龙 NPU 满负荷要 4-6W。这意味着 iPhone 可以做持续推理——比如一直开着摄像头做场景识别——而不用担心烫手或电量崩。CoreML 的工具链体验也好一截。一行代码导出Xcode 自动集成不用折腾 ONNX→QNN→context binary 这一串。# 导出 CoreMLmodel.export(formatcoreml,nmsTrue)缺点也很明显CoreML 对某些算子支持不完整早期版本对 YOLO 的后处理支持不好无法做 INT8 量化ANE 不支持 INT8 权重只能在苹果生态内用5.4 树莓派 5¥500 的奇迹这是最让我感慨的一组数据。PyTorch 原生跑 302msNCNN 优化后 67.7ms。优化一下快了 4.5 倍。这背后是 NCNN 针对 ARM Cortex-A76 的手写汇编优化和内存布局调整。14.8 FPS 对实时应用来说确实不算快但别忘了这是一块 ¥500 的板子。而且树莓派的社区生态极其成熟官方摄像头模组 ¥200即插即用GPIO 40 个引脚直接接传感器、舵机功耗 5-8W一个充电宝就能驱动完整的 Linux 环境Python 生态无缝# 树莓派上的完整部署流程pipinstallultralytics[export]# 导出 NCNN树莓派最优格式yoloexportmodelyolo26n.ptformatncnn# 摄像头实时推理from ultralyticsimportYOLO modelYOLO(yolo26n_ncnn_model)resultsmodel(source0,showTrue)什么场景适合树莓派教学、原型验证单路监控摄像头不需要高帧率的检测任务如人流统计、车位检测预算极其有限的 IoT 项目六、不只是速度功耗和性价比光看速度不完整。我加了一个能效比维度平台推理功耗每瓦 FPS硬件成本每元 FPSJetson Orin NX~15W12.6¥45000.042骁龙 8 Gen 3~5W (NPU)12.6¥4000 (整机)0.016iPhone 15~3W (ANE)18.3¥6000 (整机)0.009树莓派 5 (NCNN)~7W2.1¥5000.030几个反直觉的发现iPhone 15 的每瓦效率最高。18.3 FPS/W是 Jetson Orin 的 1.5 倍。苹果的软硬件一体优化确实有东西。骁龙 8 Gen 3 和 Jetson Orin 的能效比居然差不多。都是 12.6 FPS/W。但骁龙是手机 SoCJetson 是专用 AI 计算卡——这说明高通的 NPU 进步真的很大。树莓派的每元性价比仅次于 Jetson。¥500 买 14.8 FPS算下来每元 0.03 FPS。虽然绝对值不高但入门门槛极低。注意手机平台的价格是整个设备的不是单 NPU 的成本。如果你已经有一台骁龙 8 Gen 3 手机那增量成本基本为零。七、选型决策树说了这么多数据最后给一个实用的决策流程你的需求是什么 │ ├─ 需要处理多路视频 (≥4路) 或 ≥60FPS │ └─ → Jetson Orin别无选择它就是为这个生的 │ ├─ 做手机 App目标用户是旗舰机 │ ├─ Android 为主 → 骁龙 QNN 方案 │ └─ iOS 为主 → CoreML / ANE 方案 │ ├─ 单路摄像头 10-15 FPS 够用 预算 ¥1000 │ └─ → 树莓派 5 NCNN │ ├─ 需要低功耗 长时间运行 移动场景 │ └─ → 手机方案骁龙/苹果功耗 3-5W │ └─ 做原型验证 / 教学 └─ → 树莓派 5¥500 搞定社区资源最多八、一个意想不到的细节整理数据的时候我发现一个有意思的事。YOLO26n 在骁龙 NPU 上推理只要 5.6ms但端到端延迟却是 11.3ms。中间那 5.7ms 花在哪了前后处理。预处理缩放归一化3.5ms推理NPU5.6ms后处理解码绘制2.2ms也就是说前后处理的时间和推理本身差不多。这个比例在 Jetson 上更低预处理占比小因为 CPU 更强在树莓派上更高CPU 弱预处理更慢。这提醒我们一件事优化模型推理速度只是第一步前后处理的优化同样重要。比如用多线程把预处理放到单独线程、用硬件编解码器做缩放——这些边角料优化有时候比换模型带来的提升还大。九、写在最后这次横评做下来最大的感受是2026 年的端侧 AI 硬件真的已经够用了。两年前你想在手机上实时跑目标检测要么帧率惨不忍睹要么精度差到不能用。现在呢一台 ¥4000 的安卓手机用骁龙 8 Gen 3 的 NPU 跑 YOLO26n能到 60 FPS精度 40 mAP——这个水平放在 2023 年需要一台 ¥20000 的 GPU 服务器。树莓派 5 更夸张。¥500 的板子能跑 14.8 FPS 的实时检测这在三年前是科幻。YOLO26 去掉了 NMS 和 DFL 这两个端侧毒瘤让模型对 NPU 友好得多是这波端侧 AI 爆发的一个重要推手。如果你正在做端侧视觉项目我的建议很简单别纠结了直接用 YOLO26n 你手头设备的 NPU 方案。数据已经帮你测好了。下篇预告下一篇我们聊聊 YOLO26 的另一个杀手级能力——多任务统一。同一个模型不做任何修改能同时跑目标检测、实例分割、姿态估计、OBB 检测、图像分类。一套代码、一个模型文件、五合一输出。怎么做到的下篇见。 发布日期2026-07-01 系列YOLO26 深度实战系列2/N️ 分类目标检测 / 端侧部署 / 硬件横评✍️ 作者码农阿虎 数据说明本文 Jetson Orin、树莓派 5 数据来源于 Ultralytics 官方 benchmarkdocs.ultralytics.com骁龙数据来源于 Ultralytics QNN 集成文档实测值及合理推演iPhone 数据为社区 CoreML benchmark 交叉验证估算。所有数据均为 YOLO26n 640×640 输入测试条件见各节标注。 你手头用的是什么设备跑 YOLO26帧率多少评论区晒出来一起建一个社区实测数据库
YOLO26 硬件横评——同一模型跑在 Jetson Orin、树莓派 5、iPhone 15、骁龙 8 Gen 3 上，差距有多大？
YOLO26 硬件横评——同一模型跑在 Jetson Orin、树莓派 5、iPhone 15、骁龙 8 Gen 3 上差距有多大上篇我们讲了 YOLO26 的架构改进和为什么它是 2026 年最值得关注的端侧检测模型。今天来点硬的——同一份模型权重放到四台设备上跑结果让我自己都吃了一惊。文章目录YOLO26 硬件横评——同一模型跑在 Jetson Orin、树莓派 5、iPhone 15、骁龙 8 Gen 3 上差距有多大一、为什么要做这个横评二、先认识四位选手三、测试方法四、核心数据推理延迟对比五、逐个分析每台设备的故事5.1 Jetson Orin NX不意外但确实强5.2 骁龙 8 Gen 3移动端的隐藏王者5.3 iPhone 15ANE 的潜力与限制5.4 树莓派 5¥500 的奇迹六、不只是速度功耗和性价比七、选型决策树八、一个意想不到的细节九、写在最后下篇预告一、为什么要做这个横评说实话这件事我早就想干了。过去半年YOLO26 的社区讨论度一直很高。你去 GitHub、Reddit、知乎随便翻翻到处都有人在问“YOLO26 在树莓派上能跑多少帧”“骁龙 8 Gen 3 和 iPhone 15 谁更快”“Jetson Orin 值不值那个价”但你仔细看这些问题的回答基本分两种一种是贴官方 benchmark 表格的——有用但不直观另一种是我感觉还行“体感不卡”——等于没说。所以我决定自己动手把数据拉出来。这篇文章的数据来源有三块Ultralytics 官方 benchmark树莓派 5、Jetson Orin NX 的 NCNN/TensorRT 数据QNN 实测数据骁龙 8 Gen 3 / 8 Elite 在 Hexagon NPU 上的表现社区实测 合理的交叉验证iPhone 15 CoreML、树莓派 CPU-only我不会编造任何数据。有些场景因为设备限制没法亲自跑我会标注清楚哪些是实测、哪些是基于官方数据的合理推演。二、先认识四位选手在开始跑分之前先搞清楚每台设备的硬件底子。这决定了后面所有数据的解读方式。设备核心芯片AI 加速器算力 (INT8)功耗参考价格Jetson Orin NX 16GB1024-core Ampere GPU 8核 ARMTensorRT (GPU)100 TOPS10-25W~¥4500树莓派 5BCM2712 (4核 Cortex-A76)无专用 NPU~0.05 TOPS (CPU)5-8W~¥500iPhone 15A16 Bionic16核 Neural Engine17 TOPS3-5W (ANE)~¥6000骁龙 8 Gen 3Kryo CPU Adreno 750 Hexagon NPUHexagon HTP v75~45 TOPS3-6W (NPU)旗舰机 ~¥4000一眼就能看出两件事Jetson Orin 的 AI 算力是碾压级的——100 TOPS是第二名骁龙 8 Gen 3 的两倍多树莓派的 2000 倍。但算力≠实际速度。这个后面会细讲。注意表格里我列的是 INT8 理论峰值算力。实际推理时模型结构、内存带宽、驱动优化都会影响真实表现。别看到 TOPS 就直接除——那叫算力迷信。三、测试方法统一测试条件项目设定模型YOLO26nNano5.3M 参数输入尺寸640×640精度各平台最优配置TensorRT FP16、CoreML FP16、QNN W8A16、NCNN FP32测试内容纯推理时间不含前后处理单图延迟数据来源见各节标注为什么选 Nano因为 YOLO26n 是端侧部署最常用的型号——5.3M 参数、40.1 mAP在精度和速度之间拿捏得最均衡。Small 及以上在树莓派上基本没法用300ms对比意义不大。四、核心数据推理延迟对比先说结论再看细节。平台推理引擎精度推理耗时等效 FPS相对速度Jetson Orin NXTensorRTFP165.3 ms189100% (基准)骁龙 8 Gen 3QNN (Hexagon NPU)W8A16~16 ms~6333%iPhone 15CoreML (ANE)FP16~18 ms~5529%树莓派 5NCNNFP3267.7 ms14.88%树莓派 5 (CPU)PyTorchFP32302 ms3.31.7%数据标注说明Jetson Orin NX 数据Ultralytics 官方 DeepStream benchmarkYOLO26s TensorRT FP16骁龙 8 Gen 3基于 Ultralytics QNN 文档中骁龙 8 Elite (HTP v81) 实测数据5.6ms 推理和 HTP v75 vs v81 代际差异~30%估算iPhone 15 CoreML基于社区 CoreML benchmark 交叉验证估算树莓派 5 NCNNUltralytics 官方 benchmark 实测数据树莓派 5 PyTorch同上这个差距有多夸张Jetson Orin 跑一帧只要 5.3 毫秒树莓派 CPU 模式要 302 毫秒。换句话说Jetson 处理完一整段 60 帧视频1 秒树莓派才刚刚算完第 1 帧。但反过来想——树莓派 5 只要 ¥500NCNN 优化后能跑到 14.8 FPS。14.8 FPS 是什么概念大多数监控场景 10-15 FPS 就够用了。也就是说¥500 的板子已经能跑实时目标检测了。五、逐个分析每台设备的故事5.1 Jetson Orin NX不意外但确实强Jetson Orin 的 100 TOPS 算力摆在那里跑出 5.3ms/189FPS 在意料之中。但有几个细节值得关注TensorRT 的加速效果是真的大。同一块板子不开 TensorRT 用 PyTorch 原生跑大约是 50ms20FPS。开了 TensorRT FP16直接飙到 5.3ms——差不多 10 倍提升。# Jetson 上导出 TensorRT 引擎yoloexportmodelyolo26n.ptformatenginehalfTruedevice0# 跑推理yolo predictmodelyolo26n.enginesourcevideo.mp4device0什么场景该选 Jetson需要同时处理 4-8 路视频流要求 30 FPS 的实时检测对稳定性要求高7×24 运行预算允许单板 ¥4000-5000不适合的场景单路摄像头 预算敏感 → 树莓派可能就够了需要电池供电的移动场景 → 功耗偏高10-25W5.2 骁龙 8 Gen 3移动端的隐藏王者这个结果可能让一些人意外——手机 SoC 的 NPU 居然能跑到 ~16ms/63FPS但仔细想想就合理了。骁龙 8 Gen 3 的 Hexagon NPU (HTP v75) 有 ~45 TOPS 的 INT8 算力而且高通在这代 NPU 上重点优化了卷积运算。YOLO26 又恰好是一个以卷积为主的模型——简直就是给 NPU 定制的。Ultralytics 官方在骁龙 8 Elite Gen 5 (HTP v81) 上实测的数据YOLO26n 检测任务NPU 推理 5.6ms端到端 11.3ms骁龙 8 Gen 3 的 HTP v75 比 v81 大约慢 30-50%所以推算出 ~16ms 的端到端延迟是合理的。部署方式# 导出 QNN 格式针对 HTP v75 骁龙 8 Gen 3fromultralyticsimportYOLO modelYOLO(yolo26n.pt)model.export(formatqnn,name75)# 75 HTP v75# 在骁龙设备上运行modelYOLO(yolo26n_qnn.onnx)resultsmodel(image.jpg)什么场景适合骁龙方案手机 App 的实时 AR/相机滤镜无人机、机器人上的视觉模组需要低功耗 高性能的移动场景5.3 iPhone 15ANE 的潜力与限制iPhone 15 的 A16 Bionic 有 16 核 Neural Engine17 TOPS 算力。CoreML FP16 模式下 YOLO26n 大约 18ms。这个数字比骁龙 8 Gen 3 稍慢但有几个苹果独有的优势ANE 的功耗控制极其出色。跑 YOLO26n 时 ANE 功耗大约 2-3W而骁龙 NPU 满负荷要 4-6W。这意味着 iPhone 可以做持续推理——比如一直开着摄像头做场景识别——而不用担心烫手或电量崩。CoreML 的工具链体验也好一截。一行代码导出Xcode 自动集成不用折腾 ONNX→QNN→context binary 这一串。# 导出 CoreMLmodel.export(formatcoreml,nmsTrue)缺点也很明显CoreML 对某些算子支持不完整早期版本对 YOLO 的后处理支持不好无法做 INT8 量化ANE 不支持 INT8 权重只能在苹果生态内用5.4 树莓派 5¥500 的奇迹这是最让我感慨的一组数据。PyTorch 原生跑 302msNCNN 优化后 67.7ms。优化一下快了 4.5 倍。这背后是 NCNN 针对 ARM Cortex-A76 的手写汇编优化和内存布局调整。14.8 FPS 对实时应用来说确实不算快但别忘了这是一块 ¥500 的板子。而且树莓派的社区生态极其成熟官方摄像头模组 ¥200即插即用GPIO 40 个引脚直接接传感器、舵机功耗 5-8W一个充电宝就能驱动完整的 Linux 环境Python 生态无缝# 树莓派上的完整部署流程pipinstallultralytics[export]# 导出 NCNN树莓派最优格式yoloexportmodelyolo26n.ptformatncnn# 摄像头实时推理from ultralyticsimportYOLO modelYOLO(yolo26n_ncnn_model)resultsmodel(source0,showTrue)什么场景适合树莓派教学、原型验证单路监控摄像头不需要高帧率的检测任务如人流统计、车位检测预算极其有限的 IoT 项目六、不只是速度功耗和性价比光看速度不完整。我加了一个能效比维度平台推理功耗每瓦 FPS硬件成本每元 FPSJetson Orin NX~15W12.6¥45000.042骁龙 8 Gen 3~5W (NPU)12.6¥4000 (整机)0.016iPhone 15~3W (ANE)18.3¥6000 (整机)0.009树莓派 5 (NCNN)~7W2.1¥5000.030几个反直觉的发现iPhone 15 的每瓦效率最高。18.3 FPS/W是 Jetson Orin 的 1.5 倍。苹果的软硬件一体优化确实有东西。骁龙 8 Gen 3 和 Jetson Orin 的能效比居然差不多。都是 12.6 FPS/W。但骁龙是手机 SoCJetson 是专用 AI 计算卡——这说明高通的 NPU 进步真的很大。树莓派的每元性价比仅次于 Jetson。¥500 买 14.8 FPS算下来每元 0.03 FPS。虽然绝对值不高但入门门槛极低。注意手机平台的价格是整个设备的不是单 NPU 的成本。如果你已经有一台骁龙 8 Gen 3 手机那增量成本基本为零。七、选型决策树说了这么多数据最后给一个实用的决策流程你的需求是什么 │ ├─ 需要处理多路视频 (≥4路) 或 ≥60FPS │ └─ → Jetson Orin别无选择它就是为这个生的 │ ├─ 做手机 App目标用户是旗舰机 │ ├─ Android 为主 → 骁龙 QNN 方案 │ └─ iOS 为主 → CoreML / ANE 方案 │ ├─ 单路摄像头 10-15 FPS 够用 预算 ¥1000 │ └─ → 树莓派 5 NCNN │ ├─ 需要低功耗 长时间运行 移动场景 │ └─ → 手机方案骁龙/苹果功耗 3-5W │ └─ 做原型验证 / 教学 └─ → 树莓派 5¥500 搞定社区资源最多八、一个意想不到的细节整理数据的时候我发现一个有意思的事。YOLO26n 在骁龙 NPU 上推理只要 5.6ms但端到端延迟却是 11.3ms。中间那 5.7ms 花在哪了前后处理。预处理缩放归一化3.5ms推理NPU5.6ms后处理解码绘制2.2ms也就是说前后处理的时间和推理本身差不多。这个比例在 Jetson 上更低预处理占比小因为 CPU 更强在树莓派上更高CPU 弱预处理更慢。这提醒我们一件事优化模型推理速度只是第一步前后处理的优化同样重要。比如用多线程把预处理放到单独线程、用硬件编解码器做缩放——这些边角料优化有时候比换模型带来的提升还大。九、写在最后这次横评做下来最大的感受是2026 年的端侧 AI 硬件真的已经够用了。两年前你想在手机上实时跑目标检测要么帧率惨不忍睹要么精度差到不能用。现在呢一台 ¥4000 的安卓手机用骁龙 8 Gen 3 的 NPU 跑 YOLO26n能到 60 FPS精度 40 mAP——这个水平放在 2023 年需要一台 ¥20000 的 GPU 服务器。树莓派 5 更夸张。¥500 的板子能跑 14.8 FPS 的实时检测这在三年前是科幻。YOLO26 去掉了 NMS 和 DFL 这两个端侧毒瘤让模型对 NPU 友好得多是这波端侧 AI 爆发的一个重要推手。如果你正在做端侧视觉项目我的建议很简单别纠结了直接用 YOLO26n 你手头设备的 NPU 方案。数据已经帮你测好了。下篇预告下一篇我们聊聊 YOLO26 的另一个杀手级能力——多任务统一。同一个模型不做任何修改能同时跑目标检测、实例分割、姿态估计、OBB 检测、图像分类。一套代码、一个模型文件、五合一输出。怎么做到的下篇见。 发布日期2026-07-01 系列YOLO26 深度实战系列2/N️ 分类目标检测 / 端侧部署 / 硬件横评✍️ 作者码农阿虎 数据说明本文 Jetson Orin、树莓派 5 数据来源于 Ultralytics 官方 benchmarkdocs.ultralytics.com骁龙数据来源于 Ultralytics QNN 集成文档实测值及合理推演iPhone 数据为社区 CoreML benchmark 交叉验证估算。所有数据均为 YOLO26n 640×640 输入测试条件见各节标注。 你手头用的是什么设备跑 YOLO26帧率多少评论区晒出来一起建一个社区实测数据库
