魔改Informer实现滚动长期预测：科研项目实战指南

简介：这份资源面向时间序列预测方向的研究者与毕业设计开发者，针对官方Informer模型只能固定长度预测、难以支撑论文实验的痛点，在原始代码上新增了滚动长期预测功能：首次预测未来24个时间点后自动回填预测值，再继续预测下一段24点，无需手动填补，便于评估固定时间段内的长期表现，也可结合自动爬取数据投入实际使用。资源包共131个文件，以53个py源码与64个pyc编译文件为核心，另含5个xml配置、5个csv数据集、1个yml环境文件及1张png结果图，压缩包约1.01MB，结构紧凑、开箱即用。目前已有5941人学习下载，适合想复现顶会内容、撰写科研论文或完成毕业设计的中高级读者，可据此快速搭建滚动长期预测实验并生成可视化结果。

1. 魔改 Informer 做滚动长期预测：一个能直接跑通的时间序列科研项目

如果你正在做时间序列方向的毕业设计，或者需要一套能出图、能对比、能写进论文的实验代码，这个项目值得花时间拆一遍。它把 Informer 这个经典的长序列预测模型做了针对性改造，核心目标不是复现原论文，而是解决滚动长期预测这个实际场景——每次预测未来一段，把预测值喂回去继续预测下一段，同时把结果用可视化方式呈现出来。项目定位很明确：科研版本，强调可复现、可调参、可出图。适合谁？做预测类课题的研究生、需要快速搭实验基线的个人开发者，以及想理解 Informer 内部结构但被官方代码劝退的人。它不追求工程化部署，追求的是你能看懂、能改、能跑出自己的结果。

2. 项目架构拆解：从数据流到模型输出的完整链路

2.1 整体目录结构与模块职责

拿到源码先别急着跑，花十分钟把目录看一遍，后面改代码会省很多事。这个项目的结构是典型的科研实验组织方式，常见做法是按功能分层，而不是按论文模块硬切。大致会看到这几个部分：

project/ ├── data/ # 原始数据与预处理后的数据 │ ├── raw/ # 原始 csv 或 txt │ └── processed/ # 归一化、滑窗后的 npy 或 pt ├── models/ # 模型定义 │ ├── informer.py # 魔改后的 Informer 主体 │ ├── encoder.py # 编码器层 │ ├── decoder.py # 解码器层 │ └── attention.py # 注意力机制实现 ├── configs/ # 超参数配置 │ └── default.yaml # 数据路径、窗口大小、学习率等 ├── utils/ # 工具函数 │ ├── data_loader.py # Dataset 与 DataLoader │ ├── metrics.py # MAE、MSE、RMSE 等指标 │ └── visualization.py # 画图脚本 ├── train.py # 训练入口 ├── predict.py # 滚动预测入口 └── requirements.txt # 依赖清单

这个划分的好处是：你想换数据集，只动data/和configs/；想改模型结构，只动models/；想换评估指标，只动utils/metrics.py。科研代码最怕牵一发动全身，这种分层能让你在写论文时快速做消融实验。

configs/default.yaml是整个项目的控制中心，常见参数包括seq_len（输入历史长度）、label_len（解码器起始 token 长度）、pred_len（单次预测长度）、d_model（模型隐藏维度）、n_heads（注意力头数）、e_layers（编码器层数）、d_layers（解码器层数）、dropout、learning_rate、batch_size、epochs。这些参数直接决定模型容量和训练行为，改之前先确认显存够不够。

2.2 数据预处理与滑窗构造

时间序列预测的第一步永远是把原始序列切成模型能吃的样本。这个项目用的是滑动窗口方式，核心逻辑在utils/data_loader.py里。下面这段代码是典型实现，我按项目场景补全了关键注释：

import numpy as np import torch from torch.utils.data import Dataset class TimeSeriesDataset(Dataset): def __init__(self, data, seq_len, label_len, pred_len, mode='train'): """ data: 归一化后的时间序列，shape [总长度, 特征数] seq_len: 编码器输入长度 label_len: 解码器已知部分长度 pred_len: 需要预测的未来长度 """ self.data = data self.seq_len = seq_len self.label_len = label_len self.pred_len = pred_len self.mode = mode def __len__(self): # 可切出的样本总数 return len(self.data) - self.seq_len - self.pred_len + 1 def __getitem__(self, index): # 编码器输入：过去 seq_len 个时间步 s_begin = index s_end = s_begin + self.seq_len # 解码器输入：从 seq_len - label_len 开始，到 seq_len + pred_len r_begin = s_end - self.label_len r_end = r_begin + self.label_len + self.pred_len seq_x = self.data[s_begin:s_end] # [seq_len, features] seq_y = self.data[r_begin:r_end] # [label_len + pred_len, features] # 科研版本通常把目标列单独拿出来，方便算 loss # 假设最后一列是预测目标 seq_x_mark = seq_x[:, -1:] # 简化处理，实际会加时间特征 seq_y_mark = seq_y[:, -1:] return ( torch.FloatTensor(seq_x), torch.FloatTensor(seq_x_mark), torch.FloatTensor(seq_y), torch.FloatTensor(seq_y_mark) )

逻辑说明：seq_x是编码器看到的全部历史，seq_y是解码器需要输出的部分，其中前label_len个是已知的（作为起始 token），后pred_len个才是真正要预测的。参数上，seq_len一般取 96 或 168，pred_len取 24、48、96 不等，label_len通常取seq_len的一半。如果你的数据有多个特征，features维度会大于 1，但预测目标通常只选其中一列，这个在配置里指定。

注意：归一化一定要在切窗之前做，而且要用训练集的均值和方差去归一化验证集和测试集，否则数据泄露，论文结果会被质疑。

2.3 魔改 Informer 的关键改动点

原版 Informer 是为一次性长序列预测设计的，直接拿来做滚动预测会有两个问题：一是解码器输入构造不匹配，二是每次预测完要把结果拼回输入，原代码没有这个逻辑。这个项目的魔改主要集中在这两处。

先看模型前向传播的改动。原版 Informer 的forward接收enc_self_mask和dec_self_mask，输出整个pred_len的预测。魔改版本在models/informer.py里增加了一个滚动步进的控制参数：

class ModifiedInformer(nn.Module): def __init__(self, config): super().__init__() self.seq_len = config['seq_len'] self.label_len = config['label_len'] self.pred_len = config['pred_len'] self.roll_step = config.get('roll_step', 1) # 每次滚动前进的步数 # 编码器、解码器定义省略，与原版一致 self.encoder = Encoder(...) self.decoder = Decoder(...) self.projection = nn.Linear(config['d_model'], config['c_out']) def forward(self, x_enc, x_mark_enc, x_dec, x_mark_dec): # 标准 Informer 前向 enc_out = self.encoder(x_enc, x_mark_enc) dec_out = self.decoder(x_dec, x_mark_dec, enc_out) return self.projection(dec_out) # [B, label_len + pred_len, c_out]

滚动逻辑不放在模型里，而是放在predict.py的推理循环中。这样做的好处是模型保持干净，滚动策略可以灵活换。下面是一个典型的滚动预测循环：

def rolling_predict(model, initial_input, seq_len, pred_len, roll_step, total_steps): """ initial_input: 初始历史序列 [1, seq_len, features] total_steps: 总共要预测多少个时间步 """ model.eval() predictions = [] current_input = initial_input.clone() with torch.no_grad(): for step in range(0, total_steps, roll_step): # 构造解码器输入，这里简化处理 dec_input = current_input[:, -label_len:, :] # 模型输出 output = model(current_input, None, dec_input, None) # 取最后 pred_len 个作为本次预测 pred = output[:, -pred_len:, :] predictions.append(pred) # 关键：把预测值拼回输入，滑动窗口前移 current_input = torch.cat([ current_input[:, roll_step:, :], pred[:, :roll_step, :] ], dim=1) return torch.cat(predictions, dim=1)

参数说明：roll_step控制每次前移多少步，设为 1 就是逐步滚动，计算量最大但最平滑；设为pred_len就是块滚动，速度快但误差会累积。科研中常用roll_step=1来展示模型长期稳定性。total_steps决定你最终要预测多长，比如预测未来 720 个点。

提示：滚动预测最大的坑是误差累积，预测越长越飘。常见做法是在训练时加入 scheduled sampling，让模型见过带噪声的输入，推理时更鲁棒。

3. 环境搭建与训练流程：从零跑通第一个实验

3.1 依赖安装与数据准备

项目依赖不复杂，核心就是 PyTorch 和几个科学计算库。requirements.txt里一般会写：

torch>=1.10 numpy pandas scikit-learn matplotlib pyyaml tqdm

安装命令直接 pip 走起：

pip install -r requirements.txt

如果要用 GPU，先确认 CUDA 版本和 PyTorch 匹配。我一般会先跑一行python -c "import torch; print(torch.cuda.is_available())"，输出 True 再继续，不然训练时才发现用不了 GPU 很浪费时间。

数据准备分两步：把原始数据放到data/raw/，然后跑预处理脚本生成滑窗样本。预处理脚本通常叫prepare_data.py或直接集成在train.py里。常见做法是先把数据归一化，再按 7:1:2 切训练、验证、测试，最后保存成.npy或.pt文件。如果你的数据是 csv，注意时间列要解析成 datetime，缺失值用前向填充或插值补上。

3.2 训练脚本参数与启动

训练入口是train.py，它读取configs/default.yaml，构建数据集、模型、优化器和损失函数。启动命令很直接：

python train.py --config configs/default.yaml --gpu 0

关键参数都在 yaml 里，我挑几个最影响结果的说明：

训练过程中会打印每个 epoch 的 train loss 和 val loss，同时保存最优模型到checkpoints/。如果 val loss 不降反升，大概率是过拟合，可以加 dropout 或减小编码器层数。

注意：科研实验一定要固定随机种子，否则每次跑结果都不一样，没法写进论文。在train.py开头加torch.manual_seed(42)和np.random.seed(42)。

3.3 滚动预测与结果可视化

训练完模型，用predict.py做滚动预测。这个脚本会加载 checkpoint，读取测试集，然后按前面说的滚动逻辑生成长期预测，最后调用utils/visualization.py画图。典型输出包括：预测值与真实值的对比曲线、误差随预测步数变化的曲线、多变量预测的单独子图。

画图部分用的是 matplotlib，常见做法是：

import matplotlib.pyplot as plt def plot_prediction(true, pred, save_path='result.png'): plt.figure(figsize=(12, 6)) plt.plot(true, label='Ground Truth', color='blue') plt.plot(pred, label='Prediction', color='red', linestyle='--') plt.xlabel('Time Step') plt.ylabel('Value') plt.legend() plt.title('Rolling Long-term Prediction') plt.savefig(save_path, dpi=300) plt.close()

参数说明：dpi=300是为了论文插图清晰，linestyle='--'区分预测线。如果要多变量对比，就循环画子图。可视化脚本里通常还会算 MAE、MSE、RMSE 并打印出来，方便直接填表。

4. 避坑与常见问题排查

4.1 训练 loss 不下降或变成 NaN

现象：跑了几十个 epoch，loss 一直在高位震荡，或者突然变成 NaN。原因通常是学习率太大、数据没归一化、或者模型初始化有问题。解决：先把学习率降到 1e-4 甚至 1e-5，确认数据归一化在切窗之前完成，检查模型里有没有除零操作。如果用了 AMP 混合精度，先关掉试试。

4.2 滚动预测结果越往后越离谱

现象：前几十步预测还挺准，后面直接飘到天上或贴地。原因：误差累积，这是滚动预测的固有问题。解决：训练时加入 scheduled sampling，推理时用 teacher forcing 的比例逐步降低；或者缩短单次预测长度pred_len，增加滚动次数；还可以在每步预测后做一次平滑处理。

4.3 显存不够报 CUDA out of memory

现象：batch_size 设大了直接崩。原因：Informer 的注意力机制是 O(L^2) 复杂度，seq_len一大显存就爆。解决：减小batch_size或seq_len，开启梯度累积模拟大 batch，或者用 PyTorch 的torch.cuda.amp混合精度训练。如果还不行，考虑换 ProbSparse 注意力。

4.4 验证集 loss 比训练集低很多

现象：val loss 居然比 train loss 小，不符合常理。原因：训练时用了 dropout 而验证时关了，或者训练集和验证集分布差异大。解决：检查 dropout 设置，确认数据切分是随机的而不是按时间顺序切。时间序列一般不能随机打乱，要按时间先后切。

4.5 可视化图中文乱码

现象：图里中文显示成方块。原因：matplotlib 默认字体不支持中文。解决：在画图前设置plt.rcParams['font.sans-serif'] = ['SimHei']和plt.rcParams['axes.unicode_minus'] = False。如果系统没有 SimHei，换成其他中文字体。

5. 二次开发与改造思路：让模型适配你自己的课题

拿到这套代码，最终目的是改成你自己的东西。我一般会从三个方向下手：换数据、改模型、加实验。

换数据是最简单的。把你的 csv 放到data/raw/，改configs/default.yaml里的路径和特征列名，重新跑预处理。注意时间列格式要统一，缺失值提前处理好。如果你的数据是多变量但只想预测其中一个，在配置里指定target列，其他列作为协变量输入。

改模型是科研的核心。Informer 的魔改空间很大，常见方向包括：把 ProbSparse 注意力换成 Full Attention 做对比、在编码器后加 LSTM 捕捉局部依赖、把位置编码从固定式换成可学习式、在解码器输出后加一个残差连接。每次只改一个点，跑完记录结果，这样才能写消融实验。改完记得在models/下新建文件而不是直接改原文件，方便回滚。

加实验主要是补对比方法和评估指标。你可以在utils/metrics.py里加 MAPE、sMAPE，或者在predict.py里加多步预测的误差分解。如果要做统计显著性检验，把每次跑的结果存成 csv，后面用 scipy 算 t 检验。

验证改造是否有效，我习惯用一个小数据集先跑通全流程，确认 loss 能降、图能出，再换全量数据。从那以后我每次改模型结构，都强制先跑一个 epoch 看 loss 有没有正常下降，再决定要不要继续训练。这个习惯帮我省了很多无意义的等待。希望帮到你。

本文还有配套的精品资源，点击获取