MATLAB搭建CNN-LSTM-SE注意力模型实现时序数据分类

Matlab里把CNN-LSTM-SE注意力机制串起来做数据分类预测，这件事我在不同数据集上反复折腾过好几轮。说实话，网上搜"CNN-LSTM-SE"十个结果九个是Python写的，剩下一个还是从PyTorch翻译过来的，MATLAB能直接跑的完整资料非常少。所以这篇我用自己实测的经验，把这套模型从数据组织、网络搭建到训练调参完整拆开讲：它到底能在什么场景用、每一段在干什么、在MATLAB里怎么落地，以及那些一跑就报错的坑怎么绕。

适合谁看？想用MATLAB做时序信号分类、设备状态识别、传感器数据预测的人，尤其是已经有了一点深度学习基础、又被网络结构卡住的朋友。如果你手里已经有一批表格数据或传感器数据，想快速搭建一个能出准确率的分类模型，这篇可以直接当参照。先把整体方案捋清楚，后面看代码才不会一头雾水。

1. 项目概述与整体方案选型

1.1 CNN、LSTM、SE注意力机制的分工逻辑

这个模型本质上是一家"流水线公司"。CNN干的是最底层的活——从原始序列里提取局部特征。比如一条振动信号，某个频率成分在某个时间窗口出现了冲击，卷积核就像一个个模板，滑动过去把这种局部模式抓出来。CNN的好处是参数共享、平移不变，能扛住信号在时间轴上稍微漂移。

LSTM负责的是长距离依赖。CNN看的是"局部几毫秒"，但很多故障或者状态变化是跨很长一段时间的，比如一个缓慢衰减的异常趋势，或者多个连续冲击之间的间隔规律。LSTM通过遗忘门、输入门、输出门把更久之前的信息选择性保留下来，专门补CNN"记性差"的短板。

SE注意力机制是这个组合里最近几年才火起来的部分，它的角色更像"塞钱给关键部门"。CNN输出的特征图通常有几十甚至上百个通道，这些通道的重要程度不一样。SE模块的做法是先对每个通道做全局池化，压成一个描述符，然后用两层全连接计算出一个0到1之间的权重，再把这个权重逐通道乘回去。权重大的通道被放大，权重小的被抑制，让模型自动把精力集中在最有区分度的特征上。

三者合起来的逻辑很顺：CNN先挖局部特征，SE在通道维度上做一次自适应筛选，LSTM再在时间维度上建模，最后全连接层完成分类。任何单独拿出来都能用，但组合起来在复杂时序分类上往往比单一模型高出一截。

1.2 整体网络架构与数据流

我实际搭的结构是下面这条线，你可以直接照着这个骨架做调整：

输入多通道时序数据 → 卷积1D + BN + ReLU → 最大池化 → 再叠一层卷积 + BN + ReLU → 最大池化 → SE通道注意力 → LSTM（输出最后一个时间步）→ Dropout → 全连接 → Softmax → 分类输出

数据流里有两个容易忽略的转折点。第一个是CNN阶段结束后，数据仍然是"通道×时间长度"的结构，SE注意力作用在通道维上，不会把时间维压掉，这一点很重要——很多人在这一步把特征图展平了，导致后面LSTM没东西可学。第二个是LSTM的OutputMode必须设成'last'，因为我们做的是序列级分类，只需要最后一个时间步的隐状态，不需要每个时间步都输出。

1.3 为什么选MATLAB而不是无脑上Python

这个问题肯定有人想问。Python的PyTorch生态确实香，但MATLAB在几个具体场景下有它的不可替代性：一是你的项目本身就在MATLAB里做信号预处理，滤波、FFT、特征提取全在同一环境，没必要跨语言；二是trainNetwork这套接口对不擅长手写训练循环的人更友好，配置好trainingOptions就能跑；三是MATLAB的dlnetwork支持自动微分，自定义SE这种模块也不至于寸步难行。

缺点也明显：网上能找到的轮子少，自定义层一旦涉及序列格式要反复调试。所以我在这篇里会把最容易出问题的几个点提前说出来，省得你走弯路。

2. 数据组织与预处理

2.1 输入数据格式设计

MATLAB的sequenceInputLayer接收的不是一个普通矩阵，而是一个cell数组。每个样本是一个numFeatures × timeSteps的矩阵，numFeatures是通道数，timeSteps是序列长度。比如两个加速度通道、1024个采样点，那就得到一个2 × 1024的矩阵；1000个样本就存在一个1 × 1000的cell数组里。

我见过很多第一次写的人直接塞了一个高维矩阵进去，然后报错说维度不对。记住这个结构：

XTrain = cell(1, numSamples); for i = 1:numSamples XTrain{i} = featureMatrix(:, :, i); % numFeatures × timeSteps end

标签用categorical类型，比如categorical({'正常';'内圈故障';'外圈故障';'滚动体故障'})。这是trainNetwork和classify的标准输入方式。

2.2 滑窗切分与标签构造

大多数传感器数据是一条很长的连续信号，不能整条扔进去。我一般用滑窗切成等长片段，窗口长度和步长是这里的关键参数。窗口太短，特征不足；窗口太长，样本量太少。以振动信号为例，我常用1024个点作为窗口、步长512，重叠率50%，这样样本量翻倍，还能保留上下文。

切分的代码参考：

winLen = 1024; stepLen = 512; samples = {}; labels = []; for i = 1:numel(rawSignals) sig = rawSignals{i}; for startIdx = 1:stepLen:(length(sig) - winLen + 1) seg = sig(startIdx:startIdx + winLen - 1, :); % winLen × numChannels samples{end+1} = seg'; % 转成 numChannels × winLen labels(end+1) = classLabel(i); end end

切完之后最好看一眼每个类别的样本数是否均衡。如果不均衡，后面训练会偏向多数类，轻则准确率虚高，重则少数类完全学不会。常用的处理方式是欠采样或过采样，我一般先做一次统计，再决定要不要处理。

2.3 归一化方法与数据划分

神经网络对输入尺度很敏感。振动信号可能是零点几，温度传感器可能是几十，不归一化会让卷积核的梯度计算乱套。我偏好z-score归一化，对每个特征通道单独计算均值和标准差，一定要只用训练集算统计量，再应用到验证集和测试集，否则会有信息泄露，测试准确率虚高。

划分数据时要注意场景。如果是滚动轴承故障数据，同一个工况、同一次采集里的样本相关性很强，随机划分容易让模型"记住"设备个体特征。我建议按设备或者按工况分组划分，保证同一组数据不横跨训练集和测试集。比如80%的数据组训练、10%验证、10%测试，用cvpartition搭配分组索引来控制。

3. 核心模块搭建：CNN、LSTM与SE注意力机制

3.1 卷积特征提取模块

MATLAB从R2020a开始有了convolution1dLayer，专门处理一维序列。常见写法是：

conv1 = convolution1dLayer(5, 32, 'Padding', 'same', 'Name', 'conv1');

第一个参数5是卷积核长度，第二个参数32是输出通道数。卷积核长度决定了每次看多长的局部窗口，我建议从5或7开始，太大容易把细节抹掉。'Padding', 'same'保证输出时间长度不变，方便后面池化。这里有个常识性坑：一维卷积的输入格式是"通道×时间"，不是"时间×通道"，所以构建层时不用太担心，但自己写数据时一定要转对。

每个卷积后面我习惯接一个batchNormalizationLayer，再跟reluLayer。BN的作用是稳定中间层输入的分布，对CNN这种多层堆叠尤其重要，实测下来能显著加快收敛。池化层用maxPooling1dLayer(2, 'Stride', 2)，把时间长度减半，同时扩大感受野。堆两层卷积池化后，特征图的时间维变成原来的四分之一左右，通道数翻了三到四倍，正好给SE模块一个施展空间。

3.2 SE注意力机制的MATLAB实现

SE注意力是这篇文章的核心，也是MATLAB里最不好找现成实现的部分。它分三步：

Squeeze（压缩）：对每个通道的特征图做全局平均池化，把一个C × T的特征图压成一个C × 1的向量，相当于给每个通道算一个"平均响应强度"。

Excitation（激励）：把这个C维向量经过两个全连接层，中间用ReLU，最后用Sigmoid输出一个C维的权重向量。第一层把维度缩小到C/r，第二层恢复到C，这个r就是通道缩减比，一般取16。

Scale（缩放）：把权重向量逐通道乘回原始特征图，完成对重要通道的放大。

在MATLAB里，由于没有现成的seAttentionLayer，需要自己定义一个带可学习参数的自定义层。我用的版本是这样的：

classdef seAttention1dLayer < nnet.layer.Layer & nnet.layer.Formattable properties (Learnable) W1 b1 W2 b2 end methods function layer = seAttention1dLayer(numChannels, reduction, name) layer.Name = name; layer.Description = "SE attention, reduction=" + reduction; r = max(round(numChannels / reduction), 2); % Xavier-style 初始化 layer.W1 = randn(r, numChannels) * sqrt(2 / (numChannels + r)); layer.b1 = zeros(r, 1); layer.W2 = randn(numChannels, r) * sqrt(2 / (numChannels + r)); layer.b2 = zeros(numChannels, 1); end function Z = predict(layer, X) % X 的维度这里按 C × T × B 处理 [C, T, B] = size(X, 1, 2, 3); % --- Squeeze: 对时间维求均值 --- s = mean(X, 2); % C × 1 × B s = reshape(s, C, B); % C × B % --- Excitation: 两层的bottleneck --- z = layer.W1 * s + layer.b1; % r × B z = max(z, 0); z = layer.W2 * z + layer.b2; % C × B w = 1 ./ (1 + exp(-z)); % C × B % --- Scale: 沿时间维广播回去 --- w = reshape(w, C, 1, B); w = repmat(w, 1, T, 1); Z = X .* w; end function [Z, memory] = forward(layer, X) Z = layer.predict(X); memory = []; end end end

提示：不同MATLAB版本、不同上下文里，自定义层接收到的X维度可能有差异。我写这套代码时默认输入是C×T×B三维数组。如果你实际打印出来发现是C×T×B×1，就在predict开头加一句X = squeeze(X);把单例维去掉。这是最典型的SE自定义层调试点。

有了这个层，构建网络时直接当成普通层用：

se = seAttention1dLayer(64, 16, 'se1');

这里的64是上一层卷积输出的通道数，16是缩减比。通道数少的时候（比如小于32），缩减比可以调小到8或者4，不然中间瓶颈太小，信息损失严重。

3.3 LSTM模块与分类输出

SE层之后接LSTM，这一步要保证输入特征维度和之前卷积输出通道数一致。比如SE层输入输出都是64通道，那lstmLayer第一个参数就用64：

lstm = lstmLayer(64, 'OutputMode', 'last', 'Name', 'lstm1');

64是LSTM隐状态维度，太大容易过拟合，太小记不住长程信息。我的经验是从32到128之间试，优先取64。'OutputMode', 'last'表示只输出最后一个时间步的隐状态，适用于序列级分类。如果你要做逐时间步的预测，改成'sequence'，但本文场景不需要。

LSTM后面加一个dropoutLayer(0.3)防止过拟合，再接fullyConnectedLayer(numClasses)、softmaxLayer和classificationLayer。softmax把输出变成概率分布，classificationLayer负责计算交叉熵损失。

3.4 完整网络构建与训练流程

把上面所有模块串起来，完整的层图长这样：

numFeatures = 2; % 输入通道数，比如两个方向的振动 numClasses = 5; % 5种工况 layers = [ sequenceInputLayer(numFeatures, 'Name', 'input') convolution1dLayer(5, 32, 'Padding', 'same', 'Name', 'conv1') batchNormalizationLayer('Name', 'bn1') reluLayer('Name', 'relu1') maxPooling1dLayer(2, 'Stride', 2, 'Name', 'pool1') convolution1dLayer(5, 64, 'Padding', 'same', 'Name', 'conv2') batchNormalizationLayer('Name', 'bn2') reluLayer('Name', 'relu2') maxPooling1dLayer(2, 'Stride', 2, 'Name', 'pool2') seAttention1dLayer(64, 16, 'se1') lstmLayer(64, 'OutputMode', 'last', 'Name', 'lstm1') dropoutLayer(0.3, 'Name', 'dropout1') fullyConnectedLayer(numClasses, 'Name', 'fc') softmaxLayer('Name', 'softmax') classificationLayer('Name', 'output') ]; lgraph = layerGraph(layers);

注意：如果SE层在自己的类里没有继承nnet.layer.Formattable，直接放在sequenceInputLayer后面很可能会报"layer does not support sequence input"这类错误。我在代码里已经继承了，但不同版本对Formattable的支持细节有差异，遇到问题先跑一个最小样例确认。

训练选项可以这样配置：

options = trainingOptions('adam', ... 'InitialLearnRate', 0.001, ... 'MaxEpochs', 60, ... 'MiniBatchSize', 32, ... 'Shuffle', 'every-epoch', ... 'GradientThreshold', 1, ... 'ValidationData', {XValidation, YValidation}, ... 'ValidationFrequency', 10, ... 'Plots', 'training-progress', ... 'Verbose', true);

GradientThreshold我强烈建议设上，LSTM特别容易在训练中途出现梯度爆炸，设成1能有效稳住。InitialLearnRate从0.001起步，如果训练曲线震荡厉害就降到0.0005，如果收敛太慢就提到0.002。

4. 训练配置、参数调优与结果分析

4.1 超参数初值与优化器选择

这里面有个"先粗调后细调"的思路。第一轮先把网络跑通，用上面这组安全参数：学习率0.001、批大小32、Adam优化器、60个epoch。不要一上来就调参，先看会不会报错，会不会过拟合，心里有个基线。基线跑通后，再逐个调：

• 学习率：其他参数不动，分别试0.0005、0.001、0.002，看验证集loss哪个最低。
• 卷积核大小：5、7、9三个值对比，核越大提取的局部模式越宽，但不一定更好。
• LSTM隐层维度：32、64、128三档。隐层越大越容易过拟合，尤其在样本量不大的时候。
• 缩减比r：8、16、32。SE里的r不是越大越好，我实测r=16在多数任务上最稳。

调参建议用验证集做，测试集只留在最后评估一次。否则你盯着测试集调参，测试准确率就是"考过试的学生"，失去泛化意义。

4.2 训练监控：验证集、早停与过拟合判断

训练时打开'Plots', 'training-progress'，实时看训练准确率和验证准确率。如果训练准确率一直往上、验证准确率冲到某个值就掉头向下，这就是典型的过拟合信号。这时候不要急着加数据，先做三件事：加大Dropout、减小LSTM隐层维度、把卷积通道数减半。我一般同时调整，效果比单改一个明显。

MATLAB的trainingOptions没有内置早停，但可以用'ValidationPatience'？我记得R2021a之后有'ValidationPatience'参数，配合'OutputFcn'可以做早停。不过我更习惯手动观察训练进度曲线，看到验证loss连续20个epoch不下降就手动停掉，节省时间。

4.3 评估指标与结果可视化

分类任务不能只看准确率。在类别不平衡的场景下，一个全部预测成多数类的"垃圾模型"准确率也能很高。所以要同时看混淆矩阵和F1-score。测试阶段代码：

YPred = classify(net, XTest); acc = mean(YPred == YTest); figure; confusionchart(YTest, YPred);

混淆矩阵能直观看出哪些类别之间容易被混淆。比如"内圈故障"和"滚动体故障"经常分不清，那就说明这两类的特征在CNN-LSTM眼里太接近，可以考虑加更多故障样本，或者调整卷积核关注不同频段。

每个类别的Precision和Recall可以这样算：

C = confusionmat(YTest, YPred); precision = diag(C) ./ sum(C, 1)'; recall = diag(C) ./ sum(C, 2); f1 = 2 * precision .* recall ./ (precision + recall);

我跑过的一个轴承数据集上，纯CNN-LSTM的准确率大约是93.6%，加了SE之后到96.2%。涨点集中在两个容易混淆的故障类别上，说明SE确实帮模型把关键通道权重拉高了，而不是单纯的整体抬升。

5. 常见问题与排查技巧实录

5.1 维度不匹配：90%的报错都在这

这个模型踩坑率最高的就是维度问题。常见报错和解决办法我整理了一张表：

排查维度问题最快的方法是在每层之间插入一个输出en层，或者用analyzeNetwork检查。analyzeNetwork(lgraph)会告诉你每一层的输出尺寸，提前发现连接不匹配，不用等到训练才报错。

5.2 模型过拟合怎么压

过拟合在深度学习里跟感冒一样常见。除了加大Dropout，我最常用的三板斧是：数据增强、减小模型容量、增加正则。

时序数据增强不像图像那么花哨，但对传感器信号确实有用。给原始信号加一点高斯噪声（信噪比20dB左右），或者做小幅度的随机时间拉伸、随机裁剪，都能等效扩大样本量。注意增强只能用在训练集，验证集和测试集保持原始数据。

如果数据量本身很少（每个类别几百个样本），我建议把CNN的通道数从32/64降到16/32，LSTM隐层从64降到32。模型容量小一点，反而更容易学出可泛化的特征。

5.3 SE模块训练不收敛的两个典型现象

SE模块本身不会让网络崩溃，但有两个现象需要警惕。

一个是注意力权重全部趋于0.5，等于没加。这通常是通道数太少、缩减比太大导致的。解决办法是把缩减比调到8以内，或者去掉第一层全连接，直接用一层全连接映射到通道权重。

另一个是训练初期loss大幅震荡。SE里的Sigmoid在初始权重下容易饱和，梯度传不回去。我的经验是把W1、W2的初始化方差调小一点（乘sqrt(2/(numChannels+r))而不是0.01固定值），并且把学习率从0.001降到0.0005。前面代码里的Xavier初始化就是干这个的，不要改成随机大数。

5.4 MATLAB训练速度慢怎么办

这个模型不算大，但如果数据集大、序列长，CPU训练还是慢得让人怀疑人生。优先检查有没有可用的GPU，trainingOptions里的'ExecutionEnvironment','auto'会自动选。其次把输入数据转成single精度，内存占用减半，训练速度也有提升。再次是减少MiniBatchSize不是提升速度的做法，正确的做法是让批大小适配GPU显存，设太大反而可能OOM。如果序列长度是1024，可以考虑降采样到512，前提是不损失关键特征。

注意：并不是所有自定义层在Matlab的自动并行化里都能加速。SE层里面那几次矩阵乘法和广播在GPU上表现还行，但如果你发现用了GPU反而更慢，多半是每个batch太小、内核启动开销占比太高，把MiniBatchSize调大试试。

最后聊一点我的个人做法。这套模型组合不是万能的，SE注意力收益最大的是通道数比较多的深层特征，如果你的卷积层只有8个或16个通道，加SE可能还会拖慢收敛。我在实际项目中一般先把纯CNN-LSTM跑通，得到基线准确率，再在CNN后端插入SE，对比一下涨点幅度再决定留不留。另外别迷信默认参数，我在不同数据集上试过，最优的缩减比、LSTM隐层数差异很大，多花半小时做一组小网格搜索比什么技巧都实在。

希望这篇能让你在Matlab里搭CNN-LSTM-SE时少踩几个坑。