DenseNet鸟类细粒度识别实战：121/161/169/201迁移学习指南

简介：以 DenseNet 121/161/169/201 四种网络为主干的多类别鸟品种分类实战项目，面向图像识别入门和迁移学习研究者，适合做模型对比与消融实验。项目包含约 8000 张覆盖 200 种鸟类的图像数据集和标签，通过预训练参数与层冻结参数可灵活选择是否载入 ImageNet 预训练权重、只训练分类层；优化器提供 Adam 和随机梯度下降两种方案，损失函数用多类别交叉熵，学习率采用余弦退火策略；DenseNet 的密集连接能高效传递梯度与特征，在鸟类细粒度分类中可充分展示预训练模型的迁移能力。评估模块会在训练集和验证集上输出损失值、准确率、混淆矩阵、召回率、精确率、F1 分数与特异度等指标，并绘制曲线图像，方便从多个维度判断模型性能。整个压缩包共 2000 个文件，以 1995 张 JPG 鸟类图像为主，另有 3 个 Python 代码文件、1 个标签文件和 1 份 readme 说明，总大小约 803 MB，目录清晰且能一键运行；若尝试更换数据集，readme 中也写有对应指引。目前已有 167 人学习/下载。

1. DenseNet在鸟类细粒度识别上为什么值得用：四个版本，一套代码

做过多类别鸟品种分类的人应该都有同感：鸟类识别几乎是为卷积神经网络量身定制的“细粒度”考题。不同鸟种之间的差异往往只落在翅膀斑纹、喙部形状、尾羽颜色这些极小的局部区域，而DenseNet凭借dense block把每一层特征都直接传给后续所有层，浅层的高分辨率纹理和深层的语义特征在分类头之前自然融合——这是它在图像识别任务里容易被低估却特别适合鸟类分类的核心原因。本文直接围绕DenseNet-121/161/169/201四个版本，从选型、数据预处理、训练、避坑到部署验证，给你一套能在GPU上跑通的多类别鸟种分类完整方案。适合正在做课程设计、算法岗练手项目或想用细粒度识别作为深度学习实战案例的工程师。

2. 先搞懂DenseNet的dense block再选版本：121/161/169/201的差异与选型

2.1 dense connection为什么能守住细粒度特征

普通卷积网络（比如VGG）每层只把上一层的输出作为输入，信息流是一条直线；ResNet用残差连接让每层看到上一层的输入，但传递的是“相加”后的结果。DenseNet的做法更彻底：在一个dense block内，每一层都以前面所有层的输出拼接（concat）作为输入，也就是说第L层能看到第1到第L-1层的全部特征图。

这种设计带来的直接好处有三个。第一是梯度短路径，反向传播时梯度可以跳过中间层直接到达浅层，缓解了深层网络训练时的梯度消失问题。第二是特征复用，浅层学习的边缘、纹理特征可以不经变换直接参与深层分类判断，对鸟的喙、眼、羽毛边缘这种小判别区域特别有效。第三是参数效率，虽然每个block内部通道数会越积越多，但整体参数量仍然比同深度的ResNet小，因为不需要为每一层单独学习冗余的映射。

这里需要理解DenseNet一个关键参数：增长率（growth rate），一般记为k。dense block内每层输出的特征图通道数就等于k。k=32时，一个包含4层的dense block，其最后输出的通道数是输入通道加4×32；k越大，模型表达能力越强，但显存和计算量也越大。PyTorch官方预训练模型默认k=32，这是精度和资源的一个平衡点，一般不需要改动。

2.2 四个版本的网络结构与硬件匹配

四个版本的本质区别在于dense block的数量配置和总深度，而不是结构上的革命性差异。PyTorch的torchvision直接提供了densenet121、densenet161、densenet169、densenet201四个预训练权重，配置差一目了然：

注意161的增长率是k=48，这也是它虽然层数比201浅、参数量却更大的原因。选型的核心逻辑是看你的显存和训练时间预算。如果是8GB显存的单卡，建议121起步，跑通流程后有余力再升级；如果显存24GB且追求精度，用201或161。鸟类分类这类细粒度任务，121和201在最终准确率上可能只差1到2个百分点，但训练时间可能相差一倍以上，性价比要心里有数。

2.3 用PyTorch加载预训练模型时的分类头手术

torchvision提供的DenseNet默认在ImageNet上训练，最后的分类头是1000类全连接层。要做多类别鸟种分类，需要把最后一层替换成自己的类别数。常见做法是保留整个dense block部分作为特征提取器，只替换最后的分类器。以100类鸟种为例，代码只需要几行：

import torchvision.models as models import torch.nn as nn # 加载预训练权重 model = models.densenet121(weights=models.DenseNet121_Weights.IMAGENET1K_V1) # 查看分类头的结构 print(model.classifier) # 替换分类头：DenseNet的classifier是一个Linear层 num_classes = 100 in_features = model.classifier.in_features model.classifier = nn.Linear(in_features, num_classes) # 新分类头需要单独初始化，常用做法是让其他层保持预训练参数 nn.init.kaiming_normal_(model.classifier.weight) nn.init.constant_(model.classifier.bias, 0)

逻辑说明：DenseNet的classifier在torchvision实现里就是单个Linear层，输入维度是最后一个dense block展平后的特征通道数。这里先保持block部分用ImageNet预训练权重，只随机初始化新分类头，目的是让模型具备通用的纹理边缘提取能力，只针对鸟类的类别差异做适配。in_features从原模型读取而不是写死，是因为121/161/169/201四个版本最终特征通道数不一样，自动读取可以保证切换版本时不再动这一行代码。

参数说明：一般来说，weights=models.DenseNet121_Weights.IMAGENET1K_V1这个参数写法在torchvision 0.13以上版本才支持，更老的版本用的是pretrained=True，如果你的环境里报weights参数不识别，就退回pretrained=True。

3. 数据准备：鸟类数据集预处理与训练/验证集划分

3.1 数据集目录组织和读取方式

多类别鸟种分类的数据集常见的有CUB-200-2011这种按类别组织的学术数据集，也有自己爬图整理的工业数据集。不管来源是什么，训练前建议都整理成PyTorch内置ImageFolder可直接读取的目录结构：

bird_dataset/ ├── train/ │ ├── Black_Footed_Albatross/ │ │ ├── img_001.jpg │ │ └── img_002.jpg │ ├── Blue_Winged_Warbler/ │ └── ... └── val/ ├── Black_Footed_Albatross/ └── ...

目录组织完毕后，用datasets.ImageFolder加载，它会自动按照目录名生成类别索引，一个字典保存类别名和数字label的映射关系。这个映射在后续做分类结果可视化时要用到，建议单独存成JSON，避免模型训练完了反而不知道类别0对应什么鸟。

import torchvision.datasets as datasets import json train_dataset = datasets.ImageFolder(root='bird_dataset/train') val_dataset = datasets.ImageFolder(root='bird_dataset/val') # 保存类别映射 class_to_idx = train_dataset.class_to_idx idx_to_class = {v: k for k, v in class_to_idx.items()} with open('class_mapping.json', 'w') as f: json.dump(idx_to_class, f, indent=2) print(f"训练集类别数: {len(train_dataset.classes)}") print(f"训练集图片数: {len(train_dataset)}")

逻辑说明：这个步骤没有做任何图像增强，只是确认数据集能被正确读取。train_dataset.class_to_idx是ImageFolder自动生成的字典，比如{'Black_Footed_Albatross': 0, 'Blue_Winged_Warbler': 1}。保存成JSON是为了训练完成后推理时把网络输出的数字label反查为鸟种名称。

参数说明：这里有几个边界要注意。第一，如果训练集和验证集目录下类别不一致，ImageFolder会按各自目录分别建立索引，导致验证集的label和训练集对不上。第二，每类图片数量太少时（少于20张），建议做扩充或者干脆合并相近的类。第三，图片中有损坏文件时，ImageFolder在加载阶段不报错，但训练时DataLoader会崩溃，建议先用一个小脚本全量扫描，确认所有图片能正常打开再开始训练。

3.2 按类别分层划分训练集和验证集

很多开源鸟类数据集只给了一个大目录，需要自行划分。这里最忌讳的做法是随机打乱后切分——鸟类数据集经常存在同一个物种的照片连拍、同一位摄影师的作品扎堆的情况，随机划分会造成训练集和验证集之间存在大量相似图片，导致验证集准确率虚高，也就是数据泄漏。

正确做法是按类别分层抽样：先按类别分组，再从每个类别内部按比例抽出一部分做验证集，确保每个类在训练集和验证集中的分布比例一致。如果你用的是scikit-learn，用train_test_split的stratify参数可以轻松完成：

import os import shutil from sklearn.model_selection import train_test_split import glob # 假设当前数据都在 raw_data/ 下，每类一个文件夹 all_images = [] all_labels = [] for class_dir in sorted(os.listdir('raw_data')): class_path = os.path.join('raw_data', class_dir) if not os.path.isdir(class_path): continue imgs = glob.glob(os.path.join(class_path, '*.jpg')) all_images.extend(imgs) all_labels.extend([class_dir] * len(imgs)) # 按类别分层切分，验证集占20% train_paths, val_paths, train_labels, val_labels = train_test_split( all_images, all_labels, test_size=0.2, stratify=all_labels, random_state=42 ) # 创建目标目录并复制文件 for split, paths in [('train', train_paths), ('val', val_paths)]: for path in paths: class_name = os.path.basename(os.path.dirname(path)) target_dir = os.path.join('bird_dataset', split, class_name) os.makedirs(target_dir, exist_ok=True) dst = os.path.join(target_dir, os.path.basename(path)) if not os.path.exists(dst): shutil.copy(path, dst)

逻辑说明：stratify=all_labels是保证每个鸟种在训练和验证集中所占比例一致，不会出现某个稀有鸟种全被分到验证集的情况。random_state=42固定随机种子，确保切分结果可复现，这在你后面调模型、对比不同版本时非常重要——如果每次跑数据分布都不同，两个DenseNet版本的精度对比就没有意义。

参数说明：test_size=0.2可以根据数据集总量调整。数据量在1万张以上、每类样本超过50张时，0.2是稳妥的；如果每类只有二三十张，建议改成0.1甚至更小，优先保证训练集有足够数据。还有一种做法是K折交叉验证，但细粒度分类任务训练成本高，K折会让四版本对比的时间翻倍，不推荐在实战初阶段使用。

3.3 预处理参数：resize、crop、归一化的标准搭配

鸟类识别中，预处理的影响比想象中大。直接用原始图片的原始比例喂给网络往往效果不好，因为DenseNet在ImageNet上训练时接受的是224×224的方形输入，而鸟类图片通常长宽比很随意。标准的预处理方案是：先Resize到256×256，再RandomResizedCrop到224×224，最后做归一化。归一化均值标准差必须使用ImageNet的统计数据，这是因为预训练权重的BN层统计量是在ImageNet数据上计算的，如果你用自己数据集算的均值和标准差，等于扰乱了预训练特征提取器的输入分布。

import torchvision.transforms as transforms from PIL import Image # 训练集：带数据增强 train_transform = transforms.Compose([ transforms.Resize((256, 256)), transforms.RandomResizedCrop(224, scale=(0.6, 1.0)), transforms.RandomHorizontalFlip(), transforms.ColorJitter(brightness=0.2, contrast=0.2, saturation=0.2), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]) ]) # 验证集：只做固定尺寸缩放和中心裁剪 val_transform = transforms.Compose([ transforms.Resize((256, 256)), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]) ]) # 应用 transform train_dataset.transform = train_transform val_dataset.transform = val_transform

逻辑说明：RandomResizedCrop(224, scale=(0.6, 1.0))会在训练时随机裁剪原图的60%到100%区域，再缩放到224×224。这个随机性强迫模型学习鸟的全局特征而不是死记某一块固定区域的纹理，对细粒度识别非常关键。scale下界取0.6而不是0.08（ImageNet分类常用的默认值），是因为鸟类本身在原始图像中占的面积往往已经很小，裁剪太狠容易把鸟从画面中裁掉。验证集不启用任何随机变换，只用CenterCrop保证每张图的评估条件一致。

参数说明：ColorJitter的值不宜过大。鸟类颜色是物种鉴别的强特征，过度扰动颜色会让模型学不到真实的色彩差异。亮度、对比度、饱和度各0.2是经验安全值。如果你的数据集里存在大量同一拍摄场景的图片，可以把RandomHorizontalFlip的概率显式设为0.5（默认已经是0.5）。另外，如果训练集每类图片数量很少，还可以加RandomRotation(degrees=10)做轻微旋转，但角度不要超过15度，否则鸟的姿态变化会破坏类别判别线索。

4. 训练一个多类别鸟品种分类器：Loss、优化器与执行训练

4.1 为什么细粒度分类要同时用Label Smoothing和CutMix

多类别鸟种分类里，大量类别之间只存在微小差异，比如两种鹪鹩可能在胸羽纹理上几乎一样。传统的交叉熵损失会把模型对错误类别的预测分数压到绝对的0，这会让训练过程变得过度自信，导致模型在细微差异面前出现“一票否决”式的误判。Label Smoothing把one-hot标签的1改成0.9、把剩余的0.1均分到其他类别上，等于让模型看到“这类鸟还有其他相似物种”的信号，缓解过拟合。

CutMix则是把一张训练图的某个矩形区域用另一张图的区域替换，标签也相应按面积比例混合。对于鸟类识别，CutMix能强迫模型关注全局判别特征——如果只靠喙部特征就能判断是A鸟，而CutMix恰好把喙部区域替换成了B鸟区域，模型就必须去学翅膀和尾羽的补充特征。这种增强在细粒度任务上比随机擦除（Random Erasing）更有效。

import torch import torch.nn.functional as F def label_smoothed_loss(logits, targets, smoothing=0.1): """计算 label smoothing 后的交叉熵损失""" log_probs = F.log_softmax(logits, dim=1) n_classes = logits.size(1) # 构造平滑后的标签分布 smoothed_targets = torch.full_like(log_probs, smoothing / (n_classes - 1)) smoothed_targets.scatter_(1, targets.unsqueeze(1), 1.0 - smoothing) loss = (-smoothed_targets * log_probs).sum(dim=1).mean() return loss

逻辑说明：torch.full_like先构造一个均匀分布，每个位置都是smoothing/(n_classes-1)，然后通过scatter_把正确类别的概率置为1-smoothing。这样损失函数不再要求模型给正确类别打出绝对高的分数，只要比错误类别高出一个间隔即可。实际训练中，smoothing取0.1时模型在验证集上的泛化能力提升最明显，取值过大（如0.3以上）反而会压低模型对正确类别的信心。

参数说明：CutMix不直接改变损失函数，而是改变输入图像和对应标签。在DataLoader的collate阶段实现效果最佳。

4.2 训练主循环：一个能直接跑的最小脚本

训练DenseNet做鸟类分类的整体策略是：先用较低学习率（0.001左右）训练分类头几个epoch，再用更低学习率微调整个网络。这是因为预训练特征提取器的参数已经足够好，用大学习率去更新它们容易破坏已有的通用特征。下面给一个最小可跑的训练脚本框架。

import torch import torch.optim as optim from torch.utils.data import DataLoader device = torch.device('cuda' if torch.cuda.is_available() else 'cpu') model = model.to(device) # 优化器：新分类头用较大学习率，预训练部分用较小学习率 optimizer = optim.SGD([ {'params': model.features.parameters(), 'lr': 0.001}, {'params': model.classifier.parameters(), 'lr': 0.01} ], momentum=0.9, weight_decay=1e-4) # 余弦退火学习率调度 scheduler = optim.lr_scheduler.CosineAnnealingLR(optimizer, T_max=30) train_loader = DataLoader(train_dataset, batch_size=32, shuffle=True, num_workers=4, pin_memory=True) val_loader = DataLoader(val_dataset, batch_size=64, shuffle=False, num_workers=4, pin_memory=True) best_acc = 0.0 for epoch in range(30): model.train() running_loss = 0.0 for images, labels in train_loader: images, labels = images.to(device), labels.to(device) optimizer.zero_grad() outputs = model(images) loss = F.cross_entropy(outputs, labels) # 替换为 label_smoothed_loss 即启用平滑 loss.backward() optimizer.step() running_loss += loss.item() * images.size(0) scheduler.step() # 验证 model.eval() correct = 0 total = 0 with torch.no_grad(): for images, labels in val_loader: images, labels = images.to(device), labels.to(device) outputs = model(images) _, predicted = torch.max(outputs, 1) total += labels.size(0) correct += (predicted == labels).sum().item() val_acc = 100.0 * correct / total print(f"Epoch {epoch+1}: Loss={running_loss/len(train_dataset):.4f}, Val Acc={val_acc:.2f}%") # 保存验证集上最好的模型 if val_acc > best_acc: best_acc = val_acc torch.save({'state_dict': model.state_dict()}, 'best_densenet.pth')

逻辑说明：这里用SGD而不是Adam，原因是DenseNet的预训练特征提取器在SGD配合momentum和weight decay的情况下能保持更稳定的收敛轨迹，Adam的大自适应学习率在小数据集上容易过拟合。model.features是torchvision中DenseNet对block部分的命名，model.classifier就是前面手术过的分类头。给它们不同的学习率，让新加的随机初始化分类头学得比预训练部分更快，是迁移学习的标准操作。

参数说明：batch_size=32在8GB显存上跑DenseNet-121是安全的，换成DenseNet-161要降到16。num_workers=4的意思是开4个子进程做数据加载，如果你的机器CPU核心少，降为2即可，不要用0——这会让GPU等待数据加载，训练效率骤降。CosineAnnealingLR的T_max=30要和总epoch数保持一致，学习率从初始值开始余弦衰减到0，这种方式在细粒度任务上比StepLR更稳定，不需要手动调衰减点。

4.3 显存不够时怎么调：Gradient Checkpointing

如果你的显卡只有6GB显存，跑DenseNet-169或201会直接OOM。原因是DenseNet的dense connection把前面所有层的输出都保留下来用于后向传播，中间特征图占用的显存比同深度ResNet多出数倍。

一个可行方案是开启梯度检查点（Gradient Checkpointing）。这个技术的思路是：前向传播时不再保存所有中间激活值，只在少数关键位置保存，后向传播时重新计算那些被丢弃的激活值。代价是训练时间增加约30%，但显存占用可以下降40%以上。在torchvision的DenseNet实现中，有一个隐藏接口可以直接开启：

from torch.utils.checkpoint import checkpoint # 自定义 forward，将模型的 features 部分做 checkpoint # 更简单的做法：直接遍历 DenseNet 内部的 block，将每个 block 包在 checkpoint 里 class CheckpointedDenseNet(torch.nn.Module): def __init__(self, model): super().__init__() self.features = model.features self.classifier = model.classifier def forward(self, x): # features 包含 0: conv1+bn+relu+pool, 1-4: dense blocks, 5: transition/norm x = self.features[0](x) for i in range(1, 5): # 对 block 部分做 checkpoint x = checkpoint(self.features[i], x) x = self.features[5](x) x = torch.flatten(x, 1) x = self.classifier(x) return x model = CheckpointedDenseNet(model)

逻辑说明：torch.utils.checkpoint.checkpoint接收一个模块和输入，在前向传播时计算输出但丢弃中间激活，后向传播时把输入重新传入模块再算一次得到梯度。self.features在torchvision里是一个nn.Sequential，其中索引0是stem段，索引1-4是四个dense block，索引5是最终BN+ReLU+AvgPool。对1-4做checkpoint就能覆盖大部分中间激活的开销。

参数说明：开启checkpoint后训练时间会明显变长，所以建议先用正常模式跑DenseNet-121把流程调通，确认代码没问题后再换大版本加checkpoint。另外checkpoint和torch.compile（PyTorch 2.0的图编译加速）目前有兼容性问题，两者不要同时开启。验证集推理不需要checkpoint，因为推理本身不保存中间激活，只有在model.eval()模式下做测试时不受影响。

5. DenseNet图像识别项目避坑：迁移学习的四个常见问题

5.1 预训练权重加载失败：strict参数和分类头维度不匹配

现象：执行torch.load或model.load_state_dict时报错，提示某个张量尺寸不匹配，具体错误信息类似size mismatch for classifier.weight: copying a param with shape torch.Size([1000, 1024]) from checkpoint, the shape in current model is torch.Size([100, 1024])。

原因：torchvision预训练权重是针对ImageNet的1000类训练的，而你把分类头换成了自己的类别数。load_state_dict默认strict=True，要求checkpoint中的键和模型现有键完全一一对应，分类头维度不一致自然报错。

解决：加载权重时设置strict=False，只加载匹配的层，不匹配的分类头保留随机初始化状态。代码如下：

checkpoint = torch.load('densenet121_weights.pth', map_location='cpu') model.load_state_dict(checkpoint, strict=False)

注意，不是所有预训练权重都以state_dict直接存储，有的会套一层{'state_dict': ...}。如果是这种情况，需要先取checkpoint['state_dict']再加载。

这类报错在换数据集时很常见，一句strict=False就能解决，但要意识到它同时会把所有尺寸不匹配的层都跳过——如果你的模型不只改了分类头，还改了别的层，一定要逐层检查哪些参数确实被加载了。

5.2 验证集精度高于训练集：BN层在迁移学习中的冻结问题

现象：训练进行到第10个epoch左右，验证集准确率突然比训练集高4到8个百分点，并且训练集准确率始终上不去。

原因：在迁移学习中，不少人为了节省显存或加速训练，将DenseNet的features部分设为requires_grad=False。这本身没问题，但BatchNorm层在冻结状态下仍保留ImageNet数据集的running_mean和running_var，而你输入的鸟类图像分布和自然图像分布完全不同，BN层用错误的统计量做归一化，直接抑制了特征的有效传播。

解决：如果决定冻结features，必须把BN层单独解冻。requires_grad=False只影响梯度更新，BN层的running_mean/running_var更新取决于是否处于model.train()模式，而不是冻结参数。更稳妥的做法是只冻结卷积层，让BN层继续更新：

for name, param in model.named_parameters(): if 'conv' not in name: param.requires_grad = True else: param.requires_grad = False

这个问题的检测方法是打印训练集和验证集的batch统计差异，最快速的排查方式是在训练中打印每个BN层的running_mean变化幅度。正常训练下，BN的running_mean应随着训练缓慢移动；如果全程纹丝不动，说明BN被冻结了。

5.3 训练中Loss突然NaN：学习率与数据增强的冲突

现象：训练到第20个epoch左右，loss从1.2突然变成nan，验证集精度归零，继续训练无法恢复。

原因：出现NaN的原因很多，常见的有三类。第一，学习率过大，导致参数更新越过数值稳定区间；第二，数据增强里用了过强的ColorJitter或RandomErasing，使部分输入图片的像素值异常；第三，ReduceLROnPlateau调度器配合CosineAnnealing时出现“学习率回升”导致的不稳定。

解决：首先检查是否是学习率问题——如果是，把SGD学习率从0.001降到0.0005，或者给优化器加梯度裁剪：

torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=1.0)

max_norm=1.0的意思是把所有参数的梯度L2范数裁剪到不超过1.0。加了裁剪之后，即使某个batch出现异常梯度，也不会直接导致参数值越界。其次，检查数据增强的输出，可以在训练循环里随机打印几个增强后的图片张量，看最大最小值是否在合理范围（normalize后一般不超过±3）。如果是因为数据本身损坏导致的NaN，在dataloader里对图片做一次PIL验证，排除黑图和截断文件。

5.4 某一类鸟总是分错：长尾分布与样本均衡策略

现象：验证集整体准确率达到90%，但查看混淆矩阵时发现某几个稀有鸟种，比如样本数只有20张的特定鹰类，准确率只有20%，几乎全部被误判成常见的鸽子类或乌鸦类。

原因：真实鸟类数据集中存在严重的长尾分布，少数类别样本数量可能是多数类别的十分之一。DenseNet的梯度更新是按batch平均的，样本多的类别在梯度中占主导地位，模型为了降低整体loss学会了把稀有类别归为常见类别。

解决：先尝试最简单的类别重采样策略，让每个batch包含的类别尽量均衡。在PyTorch的WeightedRandomSampler中，给样本少的类别更高的采样概率：

import torch from torch.utils.data import WeightedRandomSampler # 统计每个类别的样本数，计算权重 class_counts = torch.bincount(train_dataset.targets) class_weights = 1.0 / class_counts.float() sample_weights = class_weights[train_dataset.targets] # 采样器：每个训练epoch内，稀有类别被抽中的概率远大于常见类别 sampler = WeightedRandomSampler( weights=sample_weights, num_samples=len(train_dataset), replacement=True ) train_loader = DataLoader(train_dataset, batch_size=32, sampler=sampler)

逻辑说明：sample_weights的长度等于训练集总样本数，每个样本的权重是其所属类别的样本数的倒数。WeightedRandomSampler按权重概率进行有放回采样，因此稀有类别在同一个epoch里可能被多次抽到，模型对它们的更新次数增加。设置replacement=True是必须的，否则无法实现有放回采样。

参数说明：这种做法的副作用是模型对常见类别欠拟合，可能把常见类别的验证集精度拉低几个点。如果发现这种情况，可以改用混合采样策略，一半batch使用权重采样，一半batch使用原始顺序采样。另外，对稀有类别的数据增强力度可以单独加强，比如对少于50张的类别使用RandomRotation(15)和RandomAffine，通过增加样本多样性来弥补数量的不足。

6. 进阶验证与部署：用CAM可视化让分类结果可解释

6.1 把训练好的模型导出为TorchScript用于工业部署

训练完的PyTorch模型直接交付到生产环境通常不方便，一是依赖Python环境，二是模型本身包含动态结构。TorchScript是PyTorch官方支持的部署格式，它把模型编译成一个静态计算图，可以被C++环境高效执行，也可以被优化加速器加载。导出前先跑一遍model.eval()并把模型放到CPU上，然后随便取一张验证集图片做一次前向，质量检查必须做。

import torch model.eval() model.to('cpu') # 用 dummy 输入跑一次前向，确保计算图可追踪 dummy_input = torch.randn(1, 3, 224, 224) traced_model = torch.jit.trace(model, dummy_input) # 保存 traced_model.save('densenet121_bird.pt')

逻辑说明：torch.jit.trace会记录模型在给定输入下执行的所有张量操作，生成一个静态图。用dummy_input的batch_size=1、通道数3、尺寸224×224模拟真实输入分布。保存后的.pt文件不依赖Python环境，可以直接用C++的libtorch加载推理，或者挂在Triton这类推理服务器后面。

6.2 用Grad-CAM输出热力图看模型关注区域

多类别鸟品种分类交付时，最常被质疑的问题是“模型到底看哪里判断是这只鸟”。Grad-CAM可以输出网络在分类决策时关注的区域热力图，把这层验证做到项目汇报和结果解释中。以DenseNet-121为例，取最后一组dense block的输出特征图做梯度加权。

import cv2 import numpy as np import torch.nn.functional as F # 注册 hook 获取目标层的输出和梯度 target_layer = model.features # 取整个 features 的最后一层输出 activation_map = None gradient_map = None def forward_hook(module, input, output): global activation_map activation_map = output.detach() def backward_hook(module, grad_input, grad_output): global gradient_map gradient_map = grad_output[0].detach() hook_forward = target_layer.register_forward_hook(forward_hook) hook_backward = target_layer.register_full_backward_hook(backward_hook) # 对单张图片做前向+反向 img_tensor = val_transform(Image.open('test_bird.jpg')).unsqueeze(0).to(device) output = model(img_tensor) pred_class = output.argmax(dim=1).item() model.zero_grad() one_hot = F.one_hot(torch.tensor([pred_class]), num_classes=100).float().to(device) output.backward(gradient=one_hot) # 梯度加权平均 weights = gradient_map.mean(dim=(2, 3), keepdim=True) # [1, C, 1, 1] cam = F.relu((weights * activation_map).sum(dim=1, keepdim=True)) # [1, 1, H, W] # 上采样到原图尺寸并叠加 cam = F.interpolate(cam, size=(224, 224), mode='bilinear', align_corners=False) cam = cam.squeeze().cpu().numpy() cam = (cam - cam.min()) / (cam.max() - cam.min() + 1e-8) img = cv2.imread('test_bird.jpg') img = cv2.resize(img, (224, 224)) heatmap = cv2.applyColorMap(np.uint8(255 * cam), cv2.COLORMAP_JET) overlay = cv2.addWeighted(img, 0.6, heatmap, 0.4, 0)

逻辑说明：activation_map保存了模型features层对所有224×224输入的特征图输出，gradient_map则是这些特征图对最终预测分数的梯度。将每张特征图按梯度均值加权求和后经过ReLU激活，得到的就是模型对正类判别的关键区域。对鸟类分类来说，如果热力图高亮区域正确集中在鸟的身体而非背景树木或地面，说明模型学到的是有意义的判别特征；如果热力图发散到整张图，说明模型可能在死记背景信息。

6.3 我的收尾习惯与后续推荐

四个DenseNet版本都训练完之后，不要只看最终Top-1准确率就收工。我一般会先对比这四者的混淆矩阵，看161和201在不同类别上的互补程度——如果161分对的类别201反而分错，说明两者的特征有互补价值，可以尝试做简单的模型集成，在验证集上通常能再涨1到2个百分点。然后我会用Grad-CAM抽查10个最容易混淆的类别对，确认模型关注的区域是否符合鸟类学上的判别特征（比如看喙部而非看腿）。这些都是项目汇报时最有说服力的材料。

最后提醒一句，如果你打算把这个项目继续做深，可以尝试在DenseNet基础上加一个多尺度分支，对鸟类这种尺寸变化大的目标，用FPN结构能把小体型鸟的召回率拉上来不少。希望帮到你。

本文还有配套的精品资源，点击获取