简介：该资源面向计算机、电子信息工程、数学等专业的大学生及算法初学者，提供一套基于Matlab的WOA鲸鱼算法特征选择与XGBOOST参数联合优化分类预测方案，可用于课程设计、期末大作业或毕业设计。资源包共16个文件，约53.31MB，包含6个m脚本文件、3张png结果图、1个data数据集、1个names描述文件、1个dll动态库及docx说明文档等，覆盖算法主流程、训练测试与可视化模块。代码采用参数化编程，可灵活调整特征选择参数及XGBOOST的最大迭代次数、深度和学习率，输出预测分类图、混淆矩阵图与准确率，运行环境为Matlab2023及以上。内容还附带报错解决方案与注释乱码处理说明，便于读者快速复现实验、理解优化思路并完成结果分析。目前已有59人学习下载。
1. WOA 鲸鱼算法做特征选择并同步调 XGBoost 参数：这套组合拳到底解决什么问题
拿到一份几十维甚至上百维的表格数据，直接丢进 XGBoost 跑分类，准确率往往卡在一个不上不下的位置：特征太多，噪声和冗余把树的分裂增益稀释了；参数没调，学习率和树深全靠默认值硬扛。更麻烦的是，特征选择和参数调优这两件事互相耦合——你选了哪批特征，最优的树深和正则系数就跟着变；你换了参数，某些特征的重要性排序又会翻盘。分开做两轮，等于在两张不同的地图上找同一个坐标。
WOA（鲸鱼算法，Whale Optimization Algorithm）在这里的价值，是把「选哪些特征」和「XGBoost 超参数取什么值」编码进同一条鲸鱼个体里，用一次群智能搜索同时逼近两个目标。Matlab 完整源码和数据这套东西，适合手上已经有结构化数据、想快速验证「特征选择 + 参数优化」联合方案是否比手工调参更划算的从业者。它不承诺碾压一切，但能给你一条可复现、可解释、能改的基线。
2. 把特征掩码和超参数塞进同一条鲸鱼：WOA 与 XGBoost 的耦合设计
2.1 为什么联合优化比「先选特征再调参」更靠谱
先说清楚耦合从哪来。XGBoost 的分裂增益计算依赖当前特征子集：假设你原始有 40 维，用互信息先筛掉 15 维，剩下 25 维训练出来的模型，其最优max_depth可能比 40 维时小一到两层，因为可用特征少了，树不需要那么深就能把样本切开。反过来，如果你先把max_depth定死在 6，再去选特征，选出来的子集是「为深度 6 服务」的，换深度就未必最优。
联合优化的思路是把两个决策变量拼成一个向量。设原始特征维度为 D，XGBoost 需要优化的超参数有 K 个，那么一条鲸鱼的位置就是一个 D+K 维向量。前 D 维是连续值，通过阈值映射成 0/1 特征掩码；后 K 维直接对应超参数，按各自取值范围做线性缩放。目标函数就是交叉验证下的分类错误率（或 1-AUC），越小越好。
这样做的好处是搜索空间里天然包含了「特征子集 × 参数组合」的所有搭配，WOA 的包围、螺旋、随机搜索三种行为会在这个联合空间里游走。代价是维度变高，收敛需要的迭代次数比单独优化多，所以种群规模和迭代次数要相应放大。
2.2 鲸鱼个体的编码方式与适应度函数写法
编码是整套方案的地基，写错了后面全白搭。我一般用这样的结构：位置向量pos长度 = D + K，前 D 维取值在 [0,1]，大于 0.5 视为选中该特征；后 K 维按参数上下界线性映射。
% 假设原始特征维度 D=40，XGBoost 调 4 个参数 D = 40; K = 4; dim = D + K; % 超参数搜索范围（行1下界，行2上界） % 依次为：max_depth, learning_rate, subsample, min_child_weight param_range = [3, 0.01, 0.5, 1; 10, 0.30, 1.0, 10]; % 一条鲸鱼的位置解码 function [mask, params] = decode(pos, D, K, param_range) mask = pos(1:D) > 0.5; % 特征掩码 params = zeros(1, K); for k = 1:K lo = param_range(1, k); hi = param_range(2, k); params(k) = lo + pos(D + k) * (hi - lo); % 线性映射 end end逻辑说明：mask是逻辑数组，直接用来索引特征矩阵；params是实际超参数值。参数说明：param_range第一行是下界，第二行是上界，max_depth取整数时在适应度函数里做round，learning_rate保持连续。注意min_child_weight上界别设太大，否则小样本数据集上树根本长不起来。
适应度函数是整套流程里最耗时的一环，因为它要跑一次完整的 XGBoost 交叉验证。Matlab 里调用 XGBoost 通常走 Python 接口或编译好的 mex 文件，我一般用 5 折交叉验证，返回平均错误率。
function fitness = obj_fun(pos, X, y, D, K, param_range) [mask, params] = decode(pos, D, K, param_range); if sum(mask) == 0 % 一个特征都没选，直接给惩罚 fitness = 1; return; end Xsub = X(:, mask); % 组装 XGBoost 参数（此处以 Python 接口为例，实际按你的环境改） xgb_params = struct('max_depth', round(params(1)), ... 'eta', params(2), ... 'subsample', params(3), ... 'min_child_weight', params(4), ... 'objective', 'binary:logistic'); cv_err = xgb_cv(Xsub, y, xgb_params, 5); % 自定义封装，返回平均错误率 % 加一个特征数量惩罚项，避免选太多特征 penalty = 0.001 * sum(mask); fitness = cv_err + penalty; end逻辑说明：xgb_cv是你自己封装的交叉验证函数，内部调用 XGBoost 训练和预测。参数说明：惩罚系数0.001是可调的，数据集越大、特征越多，这个值可以适当加大，目的是在错误率相近时优先选更少的特征。注意round(params(1))把树深取整，否则 XGBoost 会报错。
2.3 WOA 三种搜索行为的 Matlab 实现要点
WOA 的核心就三件事：包围猎物、螺旋更新、随机搜索。标准公式网上到处都是，但落到联合优化场景，有几个细节必须改。
% 单次迭代中的位置更新（简化版，突出关键分支） for i = 1:pop_size r1 = rand(); r2 = rand(); A = 2 * a * r1 - a; % a 从 2 线性降到 0 C = 2 * r2; p = rand(); if p < 0.5 if abs(A) < 1 % 包围：向当前最优个体靠拢 D_leader = abs(C * leader_pos - pos(i, :)); pos(i, :) = leader_pos - A * D_leader; else % 随机搜索：找一个随机个体作为参照 rand_idx = randi(pop_size); D_rand = abs(C * pos(rand_idx, :) - pos(i, :)); pos(i, :) = pos(rand_idx, :) - A * D_rand; end else % 螺旋更新 l = -1 + 2 * rand(); D_leader = abs(leader_pos - pos(i, :)); pos(i, :) = D_leader * exp(l) * cos(2 * pi * l) + leader_pos; end % 边界处理：越界拉回 pos(i, :) = max(pos(i, :), 0); pos(i, :) = min(pos(i, :), 1); end逻辑说明：a是控制参数，从 2 线性递减到 0，abs(A) < 1时执行包围，否则随机搜索。参数说明：pop_size建议 20 到 40，max_iter建议 50 到 100，维度高时取大值。注意边界处理用max/min截断，比反射法简单且稳定，代价是可能损失一点多样性。
这里有个血泪经验：前 D 维特征掩码是 0/1 逻辑，但位置更新是连续的，所以搜索过程中会出现「同一个特征反复横跳」的情况。解决办法是在适应度函数里对特征数量加惩罚，让算法自己倾向于稳定的小子集，而不是靠后期强行二值化。
3. 从原始数据到可复现结果：Matlab 完整流程拆解
3.1 数据准备与特征归一化：别让量纲毁了掩码
拿到数据第一步不是急着跑 WOA，而是把特征矩阵和标签整理干净。假设你的数据存成data.mat，最后一列是标签，前面是特征。
load('data.mat'); % 假设变量名为 data X = data(:, 1:end-1); y = data(:, end); % 标签如果是 1/2 或字符串，转成 0/1 if ~all(ismember(y, [0, 1])) y = double(y == max(y)); end % 归一化到 [0,1]，注意：归一化参数只能从训练集算 [X_norm, ps] = mapminmax(X', 0, 1); X_norm = X_norm';逻辑说明：mapminmax是 Matlab 自带的归一化函数，按行处理，所以先转置。参数说明：ps是归一化结构体，测试集要用同一个ps变换，不能重新算。注意：如果你的特征里有类别型变量，先做独热编码再归一化，否则数值大小会误导掩码选择。
3.2 划分训练测试集与启动 WOA 主循环
数据划分我一般用 7:3，且做分层抽样，保证正负样本比例一致。WOA 主循环的骨架如下。
cv = cvpartition(y, 'HoldOut', 0.3); X_train = X_norm(cv.training, :); y_train = y(cv.training); X_test = X_norm(cv.test, :); y_test = y(cv.test); pop_size = 30; max_iter = 60; % 初始化种群 pos = rand(pop_size, dim); fitness = zeros(pop_size, 1); for i = 1:pop_size fitness(i) = obj_fun(pos(i, :), X_train, y_train, D, K, param_range); end [best_fit, idx] = min(fitness); leader_pos = pos(idx, :); for t = 1:max_iter a = 2 - 2 * t / max_iter; % ... 此处插入 2.3 节的位置更新代码 ... % 更新适应度 for i = 1:pop_size fitness(i) = obj_fun(pos(i, :), X_train, y_train, D, K, param_range); end [cur_best, idx] = min(fitness); if cur_best < best_fit best_fit = cur_best; leader_pos = pos(idx, :); end fprintf('Iter %d, Best Fitness = %.4f\n', t, best_fit); end逻辑说明：每轮迭代后重新评估所有个体，更新全局最优。参数说明：pop_size和max_iter是最影响耗时的两个量，30×60 在 40 维数据上大约跑十几分钟到半小时，取决于 XGBoost 交叉验证的速度。注意：如果中途发现best_fit连续 20 代不变，可以提前退出，省时间。
3.3 用最优个体训练最终模型并输出特征重要性
WOA 跑完后，leader_pos就是最优解。解码得到特征掩码和超参数，用全量训练集训练最终模型。
[mask, params] = decode(leader_pos, D, K, param_range); X_train_sel = X_train(:, mask); X_test_sel = X_test(:, mask); final_params = struct('max_depth', round(params(1)), ... 'eta', params(2), ... 'subsample', params(3), ... 'min_child_weight', params(4), ... 'objective', 'binary:logistic'); model = xgb_train(X_train_sel, y_train, final_params); y_pred = xgb_predict(model, X_test_sel); acc = sum(y_pred == y_test) / length(y_test); fprintf('Selected features: %d / %d\n', sum(mask), D); fprintf('Test accuracy: %.4f\n', acc);逻辑说明：xgb_train和xgb_predict是封装好的训练和预测函数。参数说明：mask直接索引列，Matlab 里逻辑索引比find再索引更简洁。注意：最终模型一定要用全部训练数据，不要再用交叉验证的子集，否则浪费信息。
4. 避坑与排查：WOA 联合 XGBoost 最容易翻车的 5 个地方
4.1 适应度函数返回 NaN 或恒定值
现象：WOA 跑了几代，best_fit一直是 1 或者 NaN，种群完全不更新。
原因：最常见的是特征掩码全为 0，XGBoost 拿到空矩阵直接报错，你的封装函数没捕获异常，返回了 NaN。其次是标签没转成 0/1，XGBoost 二分类目标函数不认。
解决：在obj_fun开头加if sum(mask) == 0, fitness = 1; return; end，并且检查y的取值集合。如果用的是 Python 接口，把xgb_cv包在try-catch里，出错返回一个大惩罚值而不是 NaN。
4.2 特征选择结果每次跑都不一样
现象：同样的数据，两次运行选出来的特征子集差异很大，准确率也波动。
原因：WOA 是随机初始化，本身有随机性；如果种群规模小、迭代次数少，算法还没收敛就停了。另外，如果特征之间高度相关，选 A 还是选 B 对模型影响不大，算法就会随机跳。
解决：把pop_size提到 40 以上，max_iter提到 80 以上；固定随机种子rng(42)保证可复现；如果特征相关性高，先做一轮相关性过滤，把相关系数大于 0.95 的冗余特征去掉再喂给 WOA。
4.3 XGBoost 参数越界导致训练崩溃
现象：迭代中途报错，提示max_depth必须是正整数，或者learning_rate超出范围。
原因：WOA 的位置更新是连续的，虽然做了边界截断，但max_depth映射后可能是 3.7 这种小数，没取整就传给 XGBoost。
解决：在decode函数里对整数型参数做round，并且用max(lo, min(hi, val))再夹一次。learning_rate这类连续参数不用取整，但也要确保在(0, 1]范围内。
4.4 运行时间失控，跑一晚上没结果
现象：数据集 5000 样本、80 维特征，WOA 跑了 3 小时还没到一半迭代。
原因：每次适应度评估都跑 5 折交叉验证，每折都训练一个完整 XGBoost，计算量是pop_size × max_iter × 5次训练。维度高时 XGBoost 本身也慢。
解决：把交叉验证折数降到 3；用parfor并行评估种群（需要 Parallel Computing Toolbox）；先做一轮互信息特征选择，把维度从 80 降到 30 再跑 WOA。如果只是验证方案可行性，样本量可以下采样到 2000。
4.5 测试集准确率远低于交叉验证准确率
现象：WOA 报告的最佳适应度是 0.08（错误率），但最终模型在测试集上错误率 0.25。
原因：过拟合。WOA 在训练集的交叉验证上反复优化，相当于对训练集做了多轮信息泄露；如果数据量小，这种过拟合尤其明显。另外，归一化参数如果从全量数据算，测试集信息也泄露了。
解决：归一化参数只从训练集算，测试集用同一个ps；如果数据量小于 1000，交叉验证折数用 10 而不是 5，并且把 WOA 的迭代次数降下来，宁可欠拟合也不要过拟合；最终评估时，除了准确率，看一眼 AUC 和 F1，准确率在类别不平衡时会骗人。
5. 进阶技巧：用互信息预筛 + 自适应惩罚把 WOA 的收敛速度提上来
跑通基础版之后，你会发现两个瓶颈：一是维度太高时 WOA 前期搜索效率低，二是特征数量惩罚系数固定，导致算法在「选多少特征」上摇摆。我一般加两个改进。
第一个改进是用互信息做预筛。在 WOA 之前，先算每个特征与标签的互信息值，把低于阈值的特征直接剔除。这一步不追求最优，只求把明显无关的维度砍掉，通常能把 80 维降到 40 维左右，WOA 的搜索空间直接减半。
% 互信息预筛（需要 Information Theory Toolbox 或自写函数） mi = zeros(1, D); for j = 1:D mi(j) = mutual_information(X_train(:, j), y_train); end threshold = median(mi) * 0.5; % 低于中位数一半的剔除 keep_idx = find(mi > threshold); X_train = X_train(:, keep_idx); X_test = X_test(:, keep_idx); D_new = length(keep_idx);逻辑说明：mutual_information是自写函数，计算离散化后的互信息。参数说明：阈值取中位数的一半是经验值，数据噪声大时可以调到 0.3 倍中位数。注意：预筛后的D_new要同步更新到 WOA 的维度设置里。
第二个改进是自适应惩罚系数。前期迭代时惩罚小一点，让算法大胆探索特征组合；后期迭代时惩罚加大，逼它收敛到精简子集。
% 在 obj_fun 里根据当前迭代次数调整惩罚 persistent iter_count; if isempty(iter_count), iter_count = 0; end penalty_weight = 0.0005 + 0.002 * (iter_count / max_iter); penalty = penalty_weight * sum(mask);逻辑说明：iter_count需要在主循环里每代递增并传入。参数说明：起始权重 0.0005，最终权重 0.0025，具体值根据特征维度调整，维度越高权重越大。注意：persistent变量在并行环境下会出问题，如果用了parfor，改成显式传参。
验证改进是否有效，看两个指标：一是达到相同适应度所需的迭代次数是否减少，二是最终选出的特征数量是否更少且测试准确率不降。我自己的习惯是，每次改完参数，先跑三次取平均，别拿一次结果下结论。这套方案值不值得投入，取决于你的数据是否有足够的冗余特征——如果特征本来就少而精，WOA 的收益有限；如果特征多、噪声大、手工调参调到怀疑人生，那它值得一试。希望帮到你。
本文还有配套的精品资源，点击获取
