055、ATSS 自适应训练样本选择统计 IoU 的均值加标准差设置动态阈值的简洁之美从一次“正样本不够”的调试说起去年秋天调一个交通标志检测模型数据集里小目标特别多用 YOLOv5 默认的 anchor-based 匹配策略训练到一半 loss 突然崩了。打印出每张图的匹配统计发现很多小交通牌压根没分配到正样本——anchor 和 gt 的 IoU 普遍在 0.3 以下硬阈值 0.5 一刀切全给切没了。当时试过调低阈值到 0.4结果大目标那边又涌进来一堆低质量 anchorAP 反而掉了。后来翻到 ATSS 那篇论文看到“每个 gt 独立计算 IoU 统计量”的思路突然觉得这问题有解了。ATSS 的核心就一句话别用全局固定阈值对每个 gt 对象统计它和所有候选 anchor 的 IoU 分布用均值加标准差作为动态阈值。这个思路简洁到让人怀疑——真的能 work实测下来小目标召回率从 72% 直接跳到 89%而且大目标那边没出现误检爆炸。ATSS 到底在解决什么问题传统 anchor-based 检测器比如 RetinaNet、YOLOv3的正负样本分配通常依赖一个硬阈值。比如 IoU 0.5 算正样本 0.3 算负样本中间的忽略。这个阈值对数据集敏感得要命小目标密集场景下0.5 太高正样本稀疏大目标稀疏场景下0.5 又太低正样本里混进一堆背景。ATSS 的洞察是不同 gt 对象周围的 anchor 质量分布是不一样的。一个占据画面 80% 的大卡车它周围的 anchor 和它 IoU 普遍偏高均值可能 0.6标准差 0.1一个 20x20 像素的小行人周围 anchor 的 IoU 均值可能只有 0.3标准差 0.05。用同一个阈值去卡显然不合理。源码级拆解ATSS 的 PyTorch 实现下面这段代码来自我参与维护的一个 YOLO 变体仓库核心逻辑和原论文一致但注释风格更贴近工程实践。defatss_assigner(anchors,gt_boxes,gt_labels,num_classes,topk9): anchors: [N, 4] xyxy格式N是候选anchor总数 gt_boxes: [M, 4] xyxy格式M是当前图片的gt数量 gt_labels: [M] 类别id topk: 每个gt取距离最近的topk个anchor做统计 # 这里踩过坑anchors和gt_boxes的坐标格式必须一致# 之前用xywh格式传进来IoU算出来全是0排查了半小时iousbbox_iou(anchors.unsqueeze(0),gt_boxes.unsqueeze(1))# [M, N]# 计算每个anchor到每个gt的中心点距离# 别这样写直接用L2距离但注意坐标归一化anchor_centers(anchors[:,:2]anchors[:,2:])/2# [N, 2]gt_centers(gt_boxes[:,:2]gt_boxes[:,2:])/2# [M, 2]distancestorch.cdist(gt_centers,anchor_centers,p2)# [M, N]# 对每个gt选出距离最近的topk个anchor# 这里有个细节topk不能太大否则会把远处的低质量anchor拉进来_,topk_idxdistances.topk(topk,dim1,largestFalse)# [M, topk]# 收集这些候选anchor的IoU值candidate_ioustorch.gather(ious,1,topk_idx)# [M, topk]# 核心每个gt独立计算均值标准差# 注意这里用unbiasedFalse因为topk通常很小9个用总体标准差更稳定meanscandidate_ious.mean(dim1,keepdimTrue)# [M, 1]stdscandidate_ious.std(dim1,keepdimTrue,unbiasedFalse)# [M, 1]# 动态阈值 均值 标准差# 原论文说这个公式简单有效试过加系数比如均值0.5*std效果反而差thresholdsmeansstds# [M, 1]# 正样本分配IoU 阈值 且 中心点在gt内部# 这里踩过坑只靠IoU阈值不够必须加中心点约束# 否则会出现anchor和gt IoU很高但中心点偏离的情况比如大gt的边缘center_in_gtpoint_in_box(anchor_centers,gt_boxes)# [M, N]is_positive(iousthresholds)center_in_gt# [M, N]# 处理冲突一个anchor可能被多个gt选中# 策略选IoU最大的那个gt# 别这样写直接取max会丢失类别信息max_ious,max_gt_idxious.max(dim0)# [N]assigned_gttorch.where(is_positive.any(dim0),max_gt_idx,-1)# [N]# 最终输出每个anchor对应的gt索引-1表示负样本returnassigned_gt为什么均值加标准差这么有效这个公式的直觉其实很朴素对于每个 gt它的“好” anchor 应该显著高于平均水平。均值代表这个 gt 周围 anchor 的普遍质量标准差代表质量的波动程度。如果一个 anchor 的 IoU 比均值高出一个标准差以上说明它在这个 gt 的候选池里属于“出类拔萃”的那一批。举个例子某个小目标的候选 anchor 平均 IoU 只有 0.25标准差 0.05那么阈值就是 0.30。那些 IoU 在 0.30~0.35 的 anchor 虽然绝对值不高但已经是这个 gt 能匹配到的最好候选了。如果用全局 0.5 阈值这些 anchor 全被丢弃这个 gt 就成了“孤儿”。反过来一个大目标的候选 anchor 平均 IoU 可能 0.65标准差 0.08阈值 0.73。那些 IoU 只有 0.50 的 anchor 虽然绝对值不低但在这个 gt 的候选池里属于“拖后腿”的不应该被选为正样本。工程落地中的几个坑topk 的取值原论文用 9但实际要看 anchor 密度。如果特征图每个位置有 3 个 anchor9 相当于取周围 3x3 邻域。如果 anchor 密度高比如每个位置 6 个topk 可以适当增大到 12~15。我试过用 20结果把远处的低质量 anchor 也拉进来了阈值被拉低正样本质量下降。中心点约束这个容易被忽略。ATSS 原论文里提到“candidate positive samples should be within the center region of the gt”但很多复现版本只用了 IoU 阈值。实际测试发现不加中心点约束大 gt 的边缘 anchor 会被误判为正样本这些 anchor 的回归目标偏差很大训练不稳定。多尺度特征融合ATSS 在 FPN 结构上效果最好因为不同尺度的 anchor 天然对应不同大小的目标。如果只用单层特征图小目标的候选 anchor 数量太少topk 统计不稳定。我踩过这个坑在 YOLOv5 的 P3 层单独用 ATSS小目标召回率反而比全局阈值还差。个人经验性建议别把 ATSS 当万能药。它最适合的场景是目标尺度差异大、小目标密集的数据集。如果你的数据集里所有目标大小差不多比如人脸检测全局阈值加 OHEM 可能更简单高效。和 focal loss 搭配要小心。ATSS 选出的正样本数量通常比固定阈值多如果同时用 focal loss 的 alpha 平衡容易导致正样本梯度被过度抑制。我一般把 alpha 调低 0.1~0.15。训练初期可以 warmup 阈值。ATSS 的阈值完全依赖 IoU 统计而训练初期 anchor 的回归质量很差IoU 普遍偏低导致阈值也低选出一堆低质量正样本。我的做法是前 5 个 epoch 用固定阈值 0.4 过渡之后再切到 ATSS。可视化调试比看指标更重要。每次改完匹配策略我都会随机抽几张图把正样本 anchor 画出来。如果发现某个 gt 周围全是正样本超过 20 个说明阈值太低了如果某个 gt 一个正样本都没有说明阈值太高或者 topk 太小。这种可视化比看 mAP 曲线直观得多。ATSS 的美在于它的简洁——没有复杂的网络结构没有额外的损失函数只是改了一行阈值计算逻辑。但这一行逻辑背后是对“每个目标都应该被公平对待”这个朴素理念的坚持。有时候最好的改进就是去掉那些不合理的“一刀切”。
055、ATSS 自适应训练样本选择：统计 IoU 的均值加标准差设置动态阈值的简洁之美
055、ATSS 自适应训练样本选择统计 IoU 的均值加标准差设置动态阈值的简洁之美从一次“正样本不够”的调试说起去年秋天调一个交通标志检测模型数据集里小目标特别多用 YOLOv5 默认的 anchor-based 匹配策略训练到一半 loss 突然崩了。打印出每张图的匹配统计发现很多小交通牌压根没分配到正样本——anchor 和 gt 的 IoU 普遍在 0.3 以下硬阈值 0.5 一刀切全给切没了。当时试过调低阈值到 0.4结果大目标那边又涌进来一堆低质量 anchorAP 反而掉了。后来翻到 ATSS 那篇论文看到“每个 gt 独立计算 IoU 统计量”的思路突然觉得这问题有解了。ATSS 的核心就一句话别用全局固定阈值对每个 gt 对象统计它和所有候选 anchor 的 IoU 分布用均值加标准差作为动态阈值。这个思路简洁到让人怀疑——真的能 work实测下来小目标召回率从 72% 直接跳到 89%而且大目标那边没出现误检爆炸。ATSS 到底在解决什么问题传统 anchor-based 检测器比如 RetinaNet、YOLOv3的正负样本分配通常依赖一个硬阈值。比如 IoU 0.5 算正样本 0.3 算负样本中间的忽略。这个阈值对数据集敏感得要命小目标密集场景下0.5 太高正样本稀疏大目标稀疏场景下0.5 又太低正样本里混进一堆背景。ATSS 的洞察是不同 gt 对象周围的 anchor 质量分布是不一样的。一个占据画面 80% 的大卡车它周围的 anchor 和它 IoU 普遍偏高均值可能 0.6标准差 0.1一个 20x20 像素的小行人周围 anchor 的 IoU 均值可能只有 0.3标准差 0.05。用同一个阈值去卡显然不合理。源码级拆解ATSS 的 PyTorch 实现下面这段代码来自我参与维护的一个 YOLO 变体仓库核心逻辑和原论文一致但注释风格更贴近工程实践。defatss_assigner(anchors,gt_boxes,gt_labels,num_classes,topk9): anchors: [N, 4] xyxy格式N是候选anchor总数 gt_boxes: [M, 4] xyxy格式M是当前图片的gt数量 gt_labels: [M] 类别id topk: 每个gt取距离最近的topk个anchor做统计 # 这里踩过坑anchors和gt_boxes的坐标格式必须一致# 之前用xywh格式传进来IoU算出来全是0排查了半小时iousbbox_iou(anchors.unsqueeze(0),gt_boxes.unsqueeze(1))# [M, N]# 计算每个anchor到每个gt的中心点距离# 别这样写直接用L2距离但注意坐标归一化anchor_centers(anchors[:,:2]anchors[:,2:])/2# [N, 2]gt_centers(gt_boxes[:,:2]gt_boxes[:,2:])/2# [M, 2]distancestorch.cdist(gt_centers,anchor_centers,p2)# [M, N]# 对每个gt选出距离最近的topk个anchor# 这里有个细节topk不能太大否则会把远处的低质量anchor拉进来_,topk_idxdistances.topk(topk,dim1,largestFalse)# [M, topk]# 收集这些候选anchor的IoU值candidate_ioustorch.gather(ious,1,topk_idx)# [M, topk]# 核心每个gt独立计算均值标准差# 注意这里用unbiasedFalse因为topk通常很小9个用总体标准差更稳定meanscandidate_ious.mean(dim1,keepdimTrue)# [M, 1]stdscandidate_ious.std(dim1,keepdimTrue,unbiasedFalse)# [M, 1]# 动态阈值 均值 标准差# 原论文说这个公式简单有效试过加系数比如均值0.5*std效果反而差thresholdsmeansstds# [M, 1]# 正样本分配IoU 阈值 且 中心点在gt内部# 这里踩过坑只靠IoU阈值不够必须加中心点约束# 否则会出现anchor和gt IoU很高但中心点偏离的情况比如大gt的边缘center_in_gtpoint_in_box(anchor_centers,gt_boxes)# [M, N]is_positive(iousthresholds)center_in_gt# [M, N]# 处理冲突一个anchor可能被多个gt选中# 策略选IoU最大的那个gt# 别这样写直接取max会丢失类别信息max_ious,max_gt_idxious.max(dim0)# [N]assigned_gttorch.where(is_positive.any(dim0),max_gt_idx,-1)# [N]# 最终输出每个anchor对应的gt索引-1表示负样本returnassigned_gt为什么均值加标准差这么有效这个公式的直觉其实很朴素对于每个 gt它的“好” anchor 应该显著高于平均水平。均值代表这个 gt 周围 anchor 的普遍质量标准差代表质量的波动程度。如果一个 anchor 的 IoU 比均值高出一个标准差以上说明它在这个 gt 的候选池里属于“出类拔萃”的那一批。举个例子某个小目标的候选 anchor 平均 IoU 只有 0.25标准差 0.05那么阈值就是 0.30。那些 IoU 在 0.30~0.35 的 anchor 虽然绝对值不高但已经是这个 gt 能匹配到的最好候选了。如果用全局 0.5 阈值这些 anchor 全被丢弃这个 gt 就成了“孤儿”。反过来一个大目标的候选 anchor 平均 IoU 可能 0.65标准差 0.08阈值 0.73。那些 IoU 只有 0.50 的 anchor 虽然绝对值不低但在这个 gt 的候选池里属于“拖后腿”的不应该被选为正样本。工程落地中的几个坑topk 的取值原论文用 9但实际要看 anchor 密度。如果特征图每个位置有 3 个 anchor9 相当于取周围 3x3 邻域。如果 anchor 密度高比如每个位置 6 个topk 可以适当增大到 12~15。我试过用 20结果把远处的低质量 anchor 也拉进来了阈值被拉低正样本质量下降。中心点约束这个容易被忽略。ATSS 原论文里提到“candidate positive samples should be within the center region of the gt”但很多复现版本只用了 IoU 阈值。实际测试发现不加中心点约束大 gt 的边缘 anchor 会被误判为正样本这些 anchor 的回归目标偏差很大训练不稳定。多尺度特征融合ATSS 在 FPN 结构上效果最好因为不同尺度的 anchor 天然对应不同大小的目标。如果只用单层特征图小目标的候选 anchor 数量太少topk 统计不稳定。我踩过这个坑在 YOLOv5 的 P3 层单独用 ATSS小目标召回率反而比全局阈值还差。个人经验性建议别把 ATSS 当万能药。它最适合的场景是目标尺度差异大、小目标密集的数据集。如果你的数据集里所有目标大小差不多比如人脸检测全局阈值加 OHEM 可能更简单高效。和 focal loss 搭配要小心。ATSS 选出的正样本数量通常比固定阈值多如果同时用 focal loss 的 alpha 平衡容易导致正样本梯度被过度抑制。我一般把 alpha 调低 0.1~0.15。训练初期可以 warmup 阈值。ATSS 的阈值完全依赖 IoU 统计而训练初期 anchor 的回归质量很差IoU 普遍偏低导致阈值也低选出一堆低质量正样本。我的做法是前 5 个 epoch 用固定阈值 0.4 过渡之后再切到 ATSS。可视化调试比看指标更重要。每次改完匹配策略我都会随机抽几张图把正样本 anchor 画出来。如果发现某个 gt 周围全是正样本超过 20 个说明阈值太低了如果某个 gt 一个正样本都没有说明阈值太高或者 topk 太小。这种可视化比看 mAP 曲线直观得多。ATSS 的美在于它的简洁——没有复杂的网络结构没有额外的损失函数只是改了一行阈值计算逻辑。但这一行逻辑背后是对“每个目标都应该被公平对待”这个朴素理念的坚持。有时候最好的改进就是去掉那些不合理的“一刀切”。
