RetinaNet人脸检测训练全解：从锚框设计到AMP混合精度

前几天要在手头一批标注好的人脸数据上快速验证一版检测效果，翻到之前跑的实验配置，项目名就是这几个词的组合：RetinaNet、R101、FPN、8x8、AMP、200轮、COCO。乍一看像一堆参数堆在一起，其实这就是一份完整的“实验配置单”，把模型结构、骨干网络、特征融合、锚框策略、训练精度、迭代预算和数据格式全部交代清楚了。这篇文章就当一次拆解记录，我会从项目名里的每一项出发，结合实际训练过程中踩过的坑，把它拆成一套能直接落地的人脸检测方案。内容主要适合两类读者：一是准备做人脸检测但没有现成基准模型的开发者，二是想把COCO格式数据快速训成一版可用模型的算法工程师。

1. 从项目名拆解出一份完整的训练方案

1.1 把配置项逐个“翻译”成人话

先看“RetinaNet”。它是一个单阶段目标检测模型，核心是Focal Loss。单阶段的意思是网络直接基于锚框密集预测目标类别和边框，不需要像两阶段模型那样先生成候选区域再逐区域分类。对人脸检测来说，这个选择很自然：人脸在画面里通常密集分布，一个场景里可能同时出现几十张脸，单阶段结构天然适合这种密集目标，同时推理速度也明显更快。

“R101_FPN”指的是骨干网络用ResNet-101，上面再接FPN特征金字塔。ResNet-101比ResNet-50层数更深，提取语义特征的能力更强；FPN的作用是把深层语义和高分辨率浅层特征融合，从不同尺度的特征图分别输出预测。人脸检测对尺度非常敏感，很小的人脸可能只有十几像素，大的人脸又能占满半幅画面，FPN恰好解决了这种尺度跨度问题。

“8x8”在我这个配置里是锚框基尺寸。RetinaNet在每个FPN层级上都会预设一系列锚框，锚框的基尺寸决定了最小检测目标的尺度。这里把基尺寸设为8像素，配合FPN各层的步长，让模型在较高分辨率的特征图上能覆盖到小尺寸人脸。如果项目名里的8x8在你的场景中指的是其他含义，比如输入对齐或者图像切块尺寸，那就以你的实际理解为准，我这里只讲我实际采用的方案。

“AMP”是自动混合精度训练，也就是前向和反向计算用FP16，权重更新保留FP32。它能让训练显存占用下降并且速度提升，同时通过损失缩放控制梯度精度。

“200轮”指的是训练200个epoch，而不是200次迭代。这个迭代预算对于几百到几千张规模的自定义人脸数据集来说是足够的，能让小目标检测充分收敛。

“COCO数据集”指的是数据标注采用COCO格式。严格说，COCO标准库里并没有独立的人脸类别，但在工业实践里，很多人脸项目恰好会把标注整理成COCO JSON格式，然后用现成的检测框架去训练。所以这里“COCO”更多指数据组织方式，而不是直接用官方COCO数据集去训人脸模型。

1.2 为什么RetinaNet这套组合适合做人脸检测

选型前需要先算一笔账。两阶段检测器在COCO这类通用数据集上通常有更高的精度，但它需要对每个候选区域做一次前向计算，训练和推理成本都偏高。人脸检测场景往往要求“尽量多的脸被找到”，漏检的代价远大于误检，且场景中人脸大小差异极大，两阶段方法对密集小人脸反而容易因为候选框生成策略不合适而漏检。

RetinaNet用Focal Loss解决了单阶段检测器训练时的正负样本极端不平衡问题。Focal Loss的表达式是：

FL(p_t) = -α_t(1 - p_t)^γ log(p_t)

γ一般取2，α_t取0.25。它的作用是：当某个锚框被分类器高置信度预测正确时，即使它是负样本，损失也会被大幅压低；置信度低的难样本则保留较大的梯度贡献。用人话说，就是让网络别把太多精力花在那些“一眼就是背景”的框上，而是要重点磨那些模模糊糊的难分样本。人脸检测里，背景锚框数量通常远远大于人脸锚框，这个机制非常对症。

配合FPN之后，RetinaNet能在P3到P7共五层特征图上分别做预测，每层对应不同尺寸的目标。加上ResNet-101的特征提取能力，这个组合在“单阶段、高召回、中低显存开销”这几个约束下是一个特别稳的基准方案。它不追求单点指标的极致，但训练稳定、容易复现、方便后面换骨干网络做对比。

2. 数据准备：让COCO格式为人脸检测服务

2.1 把原始人脸标注转成COCO JSON

人脸标注数据集最常见的形式是：一张图片对应一个标注文件，里面记录每个人脸框的左上角和右下角坐标。要把这些数据变成能直接喂给RetinaNet的COCO格式，需要把它们汇总成一个大JSON文件，结构包含images、annotations和categories三个部分。

images节点需要记录图片的id、文件名、宽和高。annotations节点是核心，每个框对应一条记录，包含image_id、category_id、bbox和area。这里要注意，COCO的bbox格式是[x, y, width, height]，不是很多标注工具里的[x1, y1, x2, y2]，转换时一定要把右下角坐标减去左上角坐标再补上1，或者按具体标注工具的实际像素坐标计算好。我见过不少第一次转格式的人，把坐标直接写进去，训练出来所有框整体偏移半个框身，问题就出在这里。

类别数量要改。RetinaHead里的num_classes设为1就可以，因为只有“人脸”这一个类别，category_id可以置为1。如果你的标注里有遮挡、模糊、假脸等细分类别，也可以在数据端先保留一个属性字段，但训练阶段建议先只做二分类，把是否为人脸判断清楚，后续再在上游接质量过滤模型。

数据清洗也不能省。我会把宽或高小于10像素的标注直接过滤掉，因为这类目标太小，即使训练出来了，实际应用里也很难作为有效检测结果输出；同时检查重复标注和超界框，超界很严重的目标会导致锚框匹配和loss计算出现异常。

2.2 锚框尺度设计：小脸和大脸都别漏

人脸检测和通用目标检测在锚框设计上有一个明显差异：人脸的宽高比其实相对集中。正常情况下，一张脸的宽高比不会像汽车或行人那样出现1:4这类极端比例，大多数集中在1:1到1:1.5之间。所以我在锚框的ratios设置上做了收敛，不再沿用通用检测常用的[0.5, 1.0, 2.0]三档，而是把ratio调整为[0.8, 1.0, 1.2]左右，减少无效锚框数，让有限的正负样本配额更多落在真实的人脸上。

项目名里的“8x8”，落到配置里就是anchor_generator的octave_base_scale。RetinaNet里每个FPN层级会覆盖一个尺度范围，比如P3层对应的步长是8，那这层特征图上的一个像素点对应原图8x8的区域。如果锚框基尺寸也是8，再加上每个倍频程内的多个等比缩放，P3层就能产生一批覆盖8到20像素左右的小锚框，这些锚框专门用来匹配小尺寸人脸。P4、P5、P6、P7层依次对应更大的锚框，五层合起来，从十几个像素到几百个人脸尺度就都能覆盖到了。

值得注意的是，为了保证小脸不因下采样而消失，输入图片不能被压缩得太小。我在实际项目里把输入短边控制在800像素附近，长边不超过1000。假设有一张1080p的会议合影，里面某个人脸原图只有30像素，缩放到800短边后可能就只剩十几像素，这时候P3层的高分辨率特征图仍然能保留一部分空间细节，配合小锚框就有机会检出来。

2.3 大图切块与多尺度增强

人脸数据集里经常出现大图，比如多人合照、监控截图。直接resize会导致小人脸丢失太多信息。我常用的办法是训练时对原图做随机切块采样，切成若干块后再进入模型。这些块的尺寸可以按8的倍数对齐，所以项目名里的8x8也可以理解成这一层含义：输入尺寸和锚框尺度体系都围绕8像素为基本单位来组织。

切块的具体做法是：对每张训练图，先随机选择一个目标框作为中心，然后裁出一个包含该目标的正方形区域，再把这块区域缩放到固定输入尺寸。这样每一块里至少有一个完整的人脸目标，保证正样本的供应量；同时由于裁剪位置随机，相当于做了随机的平移扰动。这个操作比单纯在整图上随机裁剪更容易稳定收敛。

数据增强方面，我会开随机水平翻转，这在人脸检测里几乎是无损的增强，因为左右翻转后人脸的本质属性不变。多尺度训练也很关键，我不会把输入尺寸固定死，而是在一定区间内随机取值，比如短边在640到800之间随机，长边等比缩放。这个做法能进一步提升模型对不同分辨率输入的适应力。不要盲目上更强壮的增强比如随机擦除和颜色抖动，人脸检测对纹理细节敏感，过度增强可能反而影响小脸召回。

3. 训练配置实操：AMP和200轮的节奏控制

3.1 一份可直接改的训练配置

下面这份配置以我常用的检测框架风格写成，重点看模型结构、锚框参数和训练策略的配合方式。

model = dict( type='RetinaNet', backbone=dict( type='ResNet', depth=101, initial_stride=8, # 从更高分辨率开始下采样 pretrained=None, # 用ImageNet预训练更好，这里示意 ), neck=dict( type='FPN', in_channels=[256, 512, 1024, 2048], out_channels=256, start_level=1, # 从ResNet的C2开始 add_extra_convs='on_input', num_outs=5, # 输出P3-P7 ), bbox_head=dict( type='RetinaHead', num_classes=1, anchor_generator=dict( type='AnchorGenerator', octave_base_scale=8, # 锚框基尺寸，对应项目名里的8x8 scales_per_octave=3, ratios=[0.8, 1.0, 1.2], strides=[8, 16, 32, 64, 128], ), loss_cls=dict(type='FocalLoss'), loss_bbox=dict(type='L1Loss', beta=0.11), ), ) optimizer = dict(type='SGD', lr=0.01, momentum=0.9, weight_decay=0.0001) lr_config = dict( policy='step', warmup='linear', warmup_iters=500, warmup_ratio=0.001, step=[160, 180], ) total_epochs = 200 fp16 = dict(loss_scale='dynamic')

这里有几个关键点。backbone里的initial_stride设为8，意思是从较浅的高分辨率特征开始提取，为的是保住小人脸的信息；FPN从ResNet的C2开始也是如此。锚框ratio不要用默认的通用检测配置，否则大量宽高比不合常理的锚框会浪费选择配额。SGD加上0.9的momentum是RetinaNet训练中比较稳的组合，AdamW虽然收敛快，但在锚框检测任务上容易在后半程出现震荡。

3.2 混合精度训练的原理与调试重点

AMP能把训练速度提上去，主要靠两件事：一是GPU的Tensor Core对FP16矩阵乘法有优化，二是FP16数据只占FP32一半的显存和带宽。理论上，在同样的batch size下，显存占用能减少三分之一到一半，训练速度能提升20%到60%，具体取决于模型和数据读取是否成为瓶颈。

但FP16有个致命问题：数值表示范围比FP32小。梯度在反向传播时如果数值小于FP16能表示的最小值，就会直接变成0，这就是梯度下溢。为了防下溢，AMP引入损失缩放。训练时把损失值乘以一个缩放因子，让梯度落在FP16的表示范围内；反向传播结束后，再把梯度除以同样的缩放因子，恢复到正确尺度。动态损失缩放会监控梯度，如果连续一段时间没有溢出，就增大缩放倍数；一旦检测到溢出，就减下倍数。

我调试AMP时最常用的办法有两个。第一个是观察loss曲线，如果loss在某个iteration突然变成NaN或者跳出一个极大值，优先去查loss scale是不是一直在下降。如果loss scale从头到尾被压得很低，说明模型梯度本身有异常，不是AMP的锅，要去看数据和锚框匹配是否有问题。第二个是保留一份FP32的权重副本，也就是master weights，这一步框架一般会自动做，但如果你自己手写循环训练，一定不要忘记。否则FP16权重直接更新，累积误差会越来越明显，训练后期精度反而下降。

实际训练中AMP不是一开就万事大吉的。刚开始用AMP时，同一份数据、同一个配置，我遇到过一次loss正常下降但mAP一直不涨的情况。排查下来是因为代码里把类别tensor也强制转成了FP16，Focal Loss对半精度目标值计算时，α系数和幂运算被反复量化，数值累积误差扰乱了难样本的选择。修正为只在模型前向输入时启用FP16、损失计算保持FP32之后，效果立刻恢复正常。

3.3 200轮的学习率与优化器选择

200个epoch听起来很多，但它是相对于数据规模说的。如果你手里只有几千张人脸图，那么模型在100轮左右已经能稳定的收敛，后100轮主要用于小目标的精细调整。我的建议是把总epoch数作为固定预算，先把学习率策略配好，再根据验证指标决定是否用early stopping。

SGD的学习率需要按batch size做线性缩放。以batch size 16为一个基准，初始学习率0.01是常见起点。如果显存不够，batch size降到8，初始学习率也降到0.005左右。如果用了8卡同步训练、单卡batch 2、总batch 16，那么学习率依然可以按总batch来算。总之原则是：把学习率当成“每张图平均参数更新强度”，总batch翻倍，学习率跟着翻倍才公平。

200轮的调度我建议用阶梯式drop。比如在第160轮和第180轮把学习率乘以0.1，而不是在第120轮就开始大幅降。人脸数据集的损失通常在前期降得很快，中期会进入平台期，这时候如果学习率太大，模型会在局部最优附近来回震荡；而保留一个相对较高的学习率到后期，又能继续扫过有可能漏掉的模式。warmup设置为500步左右，warmup ratio 0.001，是为了防止模型一开始就大步走导致loss爆炸。

如果有余力，可以加EMA，也就是指数移动平均权重。EMA说白了是给模型的每一份权重都维护一个“滑动平均版本”，训练结束后用这个平均权重去评估，而不是用最后一步的原始权重。它在目标检测里通常能带来1%左右mAP的稳定提升，代价只是多一份权重拷贝的显存开销。对于200轮这种长训练过程，EMA的平滑效果会被放大，值得开启。

4. 评估、复盘与踩坑记录

4.1 用COCO的mAP指标看人脸检测

COCO官方的核心指标是mAP，即IoU从0.5到0.95每隔0.05取一个档位，共十个档位，每个档位下计算所有类别的平均精度，再取平均。这其实是一个相当严格的指标，因为高IoU档位对定位框的像素级精度要求很高。

人脸检测场景中，我一般会同时看AP50和AP_s。AP50是IoU阈值0.5下的平均精度，它更侧重“是否找到了脸”而不是“框是否完美贴合”。有些业务场景只需要人脸大概位置，那AP50就是第一参考指标；如果后面要做人脸对齐或者换脸，那么框的精准度直接影响后续任务，这时候就要盯mAP和AP75。

AP_s是COCO对小目标单独计算的指标，定义是面积小于32x32像素的检测结果。人脸检测里小目标往往占比低、难度高，AP_s能直接反映能不能召回远处的人脸。我遇到过一个实际案例：模型整体mAP有0.42，但AP_s只有0.18，业务场景又恰恰是教室里隔着三排桌子拍人脸，结果上线后被用户反馈“离得稍远就检测不到”。后来就是把P3层的锚框密度提高、输入短边从800提升到1000，AP_s涨到了0.31，整体mAP反而冲到0.45。

4.2 训练中我踩过的五个坑

以下是我在调试这个配置时反复遇到的典型问题，整理成对照表，排查顺序也是我推荐的优先级。

第五个坑特别容易忽略。人脸检测的数据集如果来源单一，比如全是网上爬的清晰头像，模型在监控视角、逆光、遮挡场景下效果会断崖式下降。我会在训练集中刻意加入一部分侧脸、低头、口罩遮挡、逆光样本，同时把置信度阈值调到0.3到0.4之间做上线前校准。

4.3 想让模型再升一档的后续操作

在用上面这个配置拿到一个稳定baseline之后，我通常不会急着换更重的模型，而是先做三件事。

第一件事是难例挖掘。训练到中后期，Focal Loss已经让网络把注意力放在难样本上，但数据端仍然可以补充挖掘。具体做法是用当前模型预测一遍训练集，把预测置信度在0.3到0.7之间、且与真实框IoU大于0.1的负样本挑出来，在下一轮训练中重复采样。这些样本是模型最犹豫的区域，喂给它比随机加几万张普通背景图更有效。

第二件事是测试时增强。推理时把原图和水平翻转后的图各跑一遍，然后对两组检测框做加权合并。人脸检测中水平翻转不改变人脸本质，重复预测能降低随机预测错误，平均下来mAP能提升0.5到1个点。代价是推理时间翻倍，适合离线分析而不适合实时服务。

第三件事是阈值校准和NMS后处理。RetinaNet默认输出非常多可能重叠的框，NMS的IoU阈值我一般调到0.5到0.6之间，人脸目标不像通用物体那么需要抑制紧邻的其他类别，阈值太低会把人脸密集的场景错误合并。置信度阈值则根据线上可接受误检率来定，如果业务接受“宁多勿漏”，就降到0.25；如果误检会导致严重打扰，就抬高到0.5，同时把感受野更大的P6层输出权重加大一些。

这套基于RetinaNet的人脸检测方案，我的定位永远是“快速、稳、可复现的baseline”。它不会在你的数据集上直接拿到顶尖的SOTA指标，但它能帮你用最短的时间拆清楚：数据标注格式对不对、锚框尺度合不合适、训练策略有没有跑偏。等到这套流程走顺了，再去换更难的新模型、加更强的数据增强，每一步的收益你会看得非常清楚。