基于PINN的Burgers-Fisher方程求解：原理、实现与调参实践

前阵子为一个带对流-扩散-反应特征的数值模拟项目做方案调研，我把传统有限差分、有限体积和物理信息神经网络（PINN）各写了一套试算代码，来回对比。一圈跑下来，最有意思的坑反而在Burgers-Fisher方程上：这个方程同时包含非线性对流、扩散和反应项，模型要学习的物理行为比单纯的热传导方程丰富得多，收敛难度也完全不在一个量级。这篇文章就是基于“物理信息神经网络求解Burgers-Fisher方程”的完整实现记录，代码基于Python与PyTorch编写，适合正在入门PINN、或者跑通了简单方程但想进一步挑战含反应项方程的读者。

我不会只贴代码，还会把方程拆开讲清楚每一项在“为难”网络什么、自动微分为什么能代替差分算子、以及我在训练过程中踩过的几个具体问题。整个过程我尽量用做工程的思维来描述：先搞清楚原理，再写代码，最后讨论调参经验。

1. 为什么偏偏是Burgers-Fisher方程：这个方程到底难在哪

1.1 从方程结构看三大物理过程的耦合

Burgers-Fisher方程的一般形式可以写成：

[ \frac{\partial u}{\partial t} + u\frac{\partial u}{\partial x} - \nu\frac{\partial^2 u}{\partial x^2} = u(1-u) ]

其中系数 (\nu) 是扩散系数。为了演示方便，我取 (\nu=0.1)，这个值既能体现扩散作用，又不至于让边界层太陡导致网络完全学不动。如果调成0.01，解的前锋会变得很尖锐，训练难度直线上升，后面我会专门说这个问题。

这个方程的每一项都不是摆设：

对比纯粹的Burgers方程（只含对流+扩散）或者纯Fisher方程（只含扩散+反应），Burgers-Fisher最大的特点是：对流项把“尖锋”往一个方向推，反应项又试图把解“拉”到1附近的稳态，扩散项则在中间“和稀泥”。三个过程相互竞争，任何一个占优都会让解的形状完全改变。这才是它难解的本质原因。

1.2 为什么传统数值格式在这里会有点吃力

传统有限差分处理这类方程，通常要面对几个问题：

• 对流项需要特殊格式：中心差分在网格步长不合适时会出现数值振荡，需要用迎风差分或者添加人工耗散。
• 反应项的时间尺度：当 (u(1-u)) 占主导时，系统具有非线性刚性特征，显式时间推进可能要求极小的步长。
• 网格生成成本：如果要捕捉局部陡峭的锋面，需要在特定区域局部加密网格。加密位置不对，计算量就白白浪费。

我在某个对比测试里用标准中心差分算过这个方程，在 (\nu=0.1)、空间步长0.01时勉强稳定；但把扩散系数降到0.01，需要把空间步长压到0.002以下才能压制振荡，计算代价迅速上升。

PINN的思路则是另一条路：它不对微分算子做任何离散近似，而是把方程本身作为约束放进损失函数，用神经网络去逼近那个既满足控制方程、又满足初始条件和边界条件的函数。对Burgers-Fisher这种强非线性方程来说，PINN最大的吸引力在于无网格和自动微分——不需要构造差分模板，也不需要在锋面位置提前人工加密。

当然这不代表PINN就无脑好用。它把“数值稳定性的困难”转化成了“优化问题的困难”，原本是步长和格式的问题，变成了网络结构、采样策略和损失函数权重的问题。所以真正下手时，需要一套系统化的做法，而不是简单地把loss摆在一起就完事。

2. PINN解方程的核心逻辑：把“解方程”变成“最小化损失”

2.1 物理信息从哪里来：自动微分是关键

传统神经网络训练靠的是输入输出数据对 ((x, u(x)))。PINN不一样，它可以完全没有标签数据，核心思想是让网络输出 (\hat{u}(x,t)) 作为试探函数，然后用自动微分得到 (\partial\hat{u}/\partial t)、(\partial\hat{u}/\partial x)、(\partial^2\hat{u}/\partial x^2)，代入控制方程计算残差。这个残差就是“物理信息”的载体。

在PyTorch里，这一步相当简洁：

def compute_residual(net, x, t, nu=0.1): x = x.clone().requires_grad_(True) t = t.clone().requires_grad_(True) u = net(x, t) u_t = torch.autograd.grad( u, t, grad_outputs=torch.ones_like(u), create_graph=True )[0] u_x = torch.autograd.grad( u, x, grad_outputs=torch.ones_like(u), create_graph=True )[0] u_xx = torch.autograd.grad( u_x, x, grad_outputs=torch.ones_like(u_x), create_graph=True )[0] f = u_t + u * u_x - nu * u_xx - u * (1 - u) return f, u

这里有一个细节必须提醒：计算二阶导时，第一次grad必须设置create_graph=True，否则第二次对u_x求导时，计算图已经被释放了，会直接报错。这是我最早写代码时实实在在踩过的坑，报错信息提示不明显，排查了很久才发现是计算图保存的问题。

2.2 损失函数的三块拼图：残差、初值、边界

PINN的损失函数一般由三部分组成：

1. 控制方程残差损失：在计算域内部随机采样点 ((x_r, t_r))，计算方程残差的均方误差。
2. 初始条件损失：在 (t=0) 的线上采样点，让网络输出逼近给定初值。
3. 边界条件损失：在边界上采样点，让网络输出逼近边界值。

我用一个经典测试设置：(x \in [0,1])，(t \in [0,1])，初值 (u(x,0)=\sin(\pi x))，边界 (u(0,t)=u(1,t)=0)。这个初值来自Burgers方程的经典算例，加到Fisher反应项之后虽然不一定有解析解，但完全可以作为PINN的训练场景——我们真正要求的是网络逼近满足所有约束的函数。

损失函数写出来就是这样：

def compute_loss(net, x_r, t_r, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc): f_r, _ = compute_residual(net, x_r, t_r) loss_r = torch.mean(f_r ** 2) u_ic_pred = net(x_ic, t_ic) loss_ic = torch.mean((u_ic_pred - u_ic) ** 2) u_bc_pred = net(x_bc, t_bc) loss_bc = torch.mean((u_bc_pred - u_bc) ** 2) return loss_r + 10.0 * loss_ic + 10.0 * loss_bc, loss_r, loss_ic, loss_bc

2.3 损失权重不是摆设：一项压过一项就全盘崩

第一次跑这个方程的人很容易犯一个错误：把三项loss的权重都设成1。实际训练中，控制方程残差的初始量级可能远大于初始条件和边界条件的残差，导致网络优先去拟合内部方程，边界条件被忽略。反过来，如果边界条件权重过高，网络又会牺牲内部残差，解的表面形态正确但内部物理完全错误。

我通常的做法是让初值和边界条件权重略高于残差权重，比如残差权重1、初值权重10、边界权重10。理由很朴素：边界和初值是最硬性的约束，必须优先满足；残差项作为“软约束”再在此基础上平滑调整。更精细的自适应权重方案我放在后面单独说。

3. Python代码落地：从网络结构到训练循环

3.1 网络结构与激活函数的选择：为什么我坚持用tanh

PINN的网络结构不需要很深，我的经验是3到4层隐藏层、每层50到100个神经元就够用了。Burgers-Fisher方程的解虽然形状复杂，但本质上是一个光滑函数，过深的网络反而会因为二阶导数的梯度连乘而出现梯度消失。

激活函数的选择至关重要。早期我试过ReLU，结果残差loss一直降不下去，原因是ReLU的二阶导数几乎处处为0，扩散项 (u_{xx}) 在反向传播时无法给网络提供有效梯度。换成Tanh之后效果立竿见影。

import torch import torch.nn as nn class PINN(nn.Module): def __init__(self, layers=[2, 60, 60, 60, 1], activation=nn.Tanh()): super().__init__() self.activation = activation self.linears = nn.ModuleList() for i in range(len(layers) - 1): fc = nn.Linear(layers[i], layers[i + 1]) nn.init.xavier_uniform_(fc.weight) nn.init.zeros_(fc.bias) self.linears.append(fc) def forward(self, x, t): a = torch.cat([x, t], dim=1) for fc in self.linears[:-1]: a = self.activation(fc(a)) return self.linears[-1](a)

激活函数对比经验：

Sin激活在部分论文里的效果不错，但我实际测试中它对初始学习率非常敏感，容易出现周期性的梯度震荡，不适合新手直接上手。Tanh是最稳妥的默认选择。

3.2 采样策略：随机重采样比固定样本更稳

PINN训练用的采样点可以分为三部分：

• 内部点：在 (x \in [0,1], t \in [0,1]) 上采样，数量最多。
• 初始点：固定 (t=0)，在 (x) 上采样。
• 边界点：固定 (x=0) 或 (x=1)，在 (t) 上采样。

这里有个关键技巧：内部采样点不要一次性生成然后固定用到底，而是每个训练迭代都重新随机采样。这样每个batch都看到不同的点，可以避免网络过拟合到固定采样点上的微小振荡，也能更充分地覆盖整个计算域。

def sample_interior(n_points): x = torch.rand(n_points, 1) # [0, 1] t = torch.rand(n_points, 1) # [0, 1] return x, t def sample_initial(n_points): x = torch.rand(n_points, 1) t = torch.zeros(n_points, 1) u = torch.sin(torch.pi * x) return x, t, u def sample_boundary(n_points): x_left = torch.zeros(n_points, 1) t_left = torch.rand(n_points, 1) x_right = torch.ones(n_points, 1) t_right = torch.rand(n_points, 1) x = torch.cat([x_left, x_right], dim=0) t = torch.cat([t_left, t_right], dim=0) u = torch.zeros_like(x) return x, t, u

3.3 完整训练循环：Adam为主，L-BFGS收尾

训练过程我一般分成两阶段：先用Adam快速把loss压到合理量级，再用L-BFGS做精调。Adam的优势是前期稳定、不容易发散；L-BFGS的优势是在接近最优解时能利用二阶信息进行更精确的搜索，尤其在PINN这种损失函数相对平滑的场景下，效果比Adam在后期硬磨更明显。

net = PINN() optimizer = torch.optim.Adam(net.parameters(), lr=1e-3) for step in range(30000): x_r, t_r = sample_interior(20000) x_ic, t_ic, u_ic = sample_initial(2000) x_bc, t_bc, u_bc = sample_boundary(1000) loss, loss_r, loss_ic, loss_bc = compute_loss( net, x_r, t_r, x_ic, t_ic, u_ic, x_bc, t_bc, u_bc ) optimizer.zero_grad() loss.backward() optimizer.step() if step % 1000 == 0: print(f"step {step}: loss={loss.item():.6e}, " f"r={loss_r.item():.6e}, " f"ic={loss_ic.item():.6e}, " f"bc={loss_bc.item():.6e}")

Adam训练完之后，切到L-BFGS时学习率相关的超参数就实际不存在了，只需要把optimizer换成torch.optim.LBFGS(net.parameters(), lr=0.1, max_iter=5000)，并按照L-BFGS的接口要求改写训练循环。过程稍繁琐，但值得做。

3.4 训练结果怎么看：千万别只盯总loss

我在训练过程中习惯同时打印总loss、残差loss、初值loss和边界loss四条曲线。很多人的误区是只看总loss下降就觉得万事大吉，实际上总loss下降可能是初值和边界已经在猛降，残差项还纹丝不动。一旦残差项卡住，意味着网络虽然赢在了边界上，但解的内部形态完全不符合控制方程。

一个比较有效的做法是：每隔一定步数，把网络预测的解画成热力图或者切片曲线，直接把(u(x,t))在几个时间层的剖面画出来，和参考数值解叠在一起看。视觉上的偏差往往比loss数字更直观。我自己就是靠这个捕捉到过一次边界附近的小幅畸变。

4. 训练过程中踩过的坑：从NaN到边界震荡的完整排查链路

4.1 第一坑：残差loss卡住不动，原因是激活函数选错

我最初用ReLU跑Burgers-Fisher方程时，训练到5000步后总loss下降速度变得极慢，残差loss停留在0.1量级完全不动。我起初怀疑是网络容量不够，把隐藏层加到5层、每层100个神经元，结果反而收敛更差。

后来我打印了 (u_{xx}) 的实际数值，发现大部分采样点上ReLU网络的二阶导输出为0，因为ReLU在正值区间的二阶导本身是0，负值区间也是0。也就是说，扩散项在整个计算域上几乎学不到有效梯度。换成Tanh之后，残差loss在2000步内就从0.1量级降到了1e-3量级。这个排查过程不复杂，但很容易被“网络越深越好”的惯性思维带偏。

4.2 第二坑：梯度爆炸导致输出NaN

第二次实验我把学习率设成了1e-2，想着训练能更快一些。结果训练到几百步时loss直接变成NaN，网络输出全部变成NaN。原因是网络输出在某些采样点上突然变得很大，(u u_x) 和 (u_{xx}) 的乘积进一步放大梯度。

排查时我做了三件事：

1. 检查输入是否归一化：(x) 和 (t) 都在 [0,1]，没有归一化问题。
2. 检查网络输出是否有过大值：打印中间层激活值，发现tanh输出正常，说明问题出在loss反向传播后的参数更新步长过大。
3. 降低学习率：从1e-2降到1e-3，NaN现象消失。

经验和教训：PINN对学习率非常敏感，1e-3是相对安全的起点。如果遇到NaN，不要急着改网络结构，先检查学习率和采样点是否出现极端值。学习率调度我后来用了ReduceLROnPlateau，当loss连续多步不下降时自动降一半，整体稳定很多。

4.3 第三坑：边界附近出现局部畸变

训练后期，我发现整体loss已经降到很低的水平，但在紧挨 (x=0) 和 (x=1) 的区域，网络预测的解会有小幅波浪畸变。单独看边界loss和残差loss都不大，但把预测解沿 (t) 方向切片后，边界内侧约0.02宽度的区域明显和参考解对不上。

处理的思路有几个：

• 增加边界点采样数量，让网络在边界邻近区域得到更多约束。
• 适当提高边界条件的损失权重。
• 在边界附近增加额外的“邻近采样点”，即 (x \in [0, 0.05]) 和 (x \in [0.95, 1]) 范围内部点加密。

我用的是第三条路线：对内部点采样做区域偏置，让边界附近的采样密度更高一些。每步内部点里，80%均匀随机采样，20%集中在边界两侧0.1的范围内。这个操作简单直接，对边界畸变的改善最明显。

4.4 扩散系数越小越难练：锋面陡峭化

把 (\nu) 从0.1调到0.01后，同样一套参数又崩了。原因是扩散项变弱后，对流和反应项造出的前锋越来越陡峭，网络需要非常高的分辨率才能在有限个采样点上捕捉到锋面位置。传统数值方法遇到这种情况要加密网格，PINN则要增加采样密度并调整网络容量。

我的实操建议是：训练过程中动态调整采样点分布，每隔若干步检查一下预测解的梯度变化，在(|\partial u/\partial x|)最大的区域增加采样点。这相当于把启发式网格自适应搬到了PINN里，效果比均匀采样稳定很多。

5. 提升收敛质量的实用技巧：从自适应权重到结果可信度验证

5.1 训练顺序与学习率策略

对于同时包含多个时间尺度过程的方程，我最常用的一种稳定做法是“先初值，后残差”的两段式训练：第一步先用极小权重或直接冻结残差项，只训练网络拟合初始条件和边界条件，等网络对边界附近的输出形态有一定辨识度之后，再放开残差项正常训练。这样网络在最开始时不会因为内部方程残差方向混乱而原地打转。

学习率方面，除了ReduceLROnPlateau，也可以用Cosine Annealing配合warm-up。PINN训练的损失地形我是没有能力直接观察的，但从多个随机种子的实验看，Cosine Annealing在后期比固定学习率更容易突破局部平缓区。

5.2 自适应损失权重：让三项loss自动平衡

固定权重虽然简单，但遇到不同量纲、不同量级的损失项时不一定可靠。我这里给出一个简单但有效的自适应方案：以梯度范数为依据，动态调整各项权重。

核心思路是：如果某一项损失对参数的梯度范数偏小，说明网络当前对该约束“不敏感”，此时应增大该项权重；反之梯度范数偏大则降低权重。这个操作在PyTorch里可以用torch.autograd.grad配合retain_graph=True实现，虽然增加了一些计算量，但对Burgers-Fisher这种三项损失量级差异大的问题，收敛稳定性的提升非常明显。

# 简化示意：基于梯度范数的权重更新 grad_r = torch.autograd.grad(loss_r, net.parameters(), retain_graph=True) grad_ic = torch.autograd.grad(loss_ic, net.parameters(), retain_graph=True) grad_norm_r = sum(g.norm().item() for g in grad_r) grad_norm_ic = sum(g.norm().item() for g in grad_ic) lambda_r = 1.0 lambda_ic = lambda_r * grad_norm_r / (grad_norm_ic + 1e-8)

这个思路在很多PINN变体论文里都有，实际用起来也不需要完全复现论文里的复杂公式，抓住“梯度范数均衡”这个本质就够了。

5.3 没有解析解时怎么验证模型的正确性

Burgers-Fisher方程在部分参数组合下有精确行波解，但不是我们这里用的初边值场景。那怎么判断PINN算出来的东西靠不靠谱？我的做法是拿一个完全独立的传统数值求解器做交叉验证：用细网格的中心差分结合显式推进，把空间步长取得足够小，当作“参考解”使用。

然后做两件事：

1. 把PINN预测解和参考解在相同的网格点上做L2相对误差统计，误差在1e-2量级说明基本可信。
2. 把两者在不同时间层的剖面画在一起，重点看锋面位置和幅值是否一致。

这个方法最先帮我发现了一个有意思的问题：PINN在总loss很低的情况下，把锋面位置整体向左偏移了一小段距离，单独看形态完全正常，但与参考解对比后发现是网络学会了“平滑近似”，用略微扩散的方式牺牲了锋面位置的精确度。所以，不看参考解，只盯着loss曲线，是真的会自欺欺人的。

5.4 这个方案还能怎么扩展

如果你已经成功跑通Burgers-Fisher方程，后面有几个方向值得顺势尝试：

• 参数扫描：把扩散系数(\nu)作为网络额外输入，训练一个能同时预测多个参数下解的代理模型，泛化能力比逐参数重训强。
• 反向问题：知道若干时刻的观测数据，反过来反演未知的扩散系数(\nu)，PINN天然适合这种反问题，只需要把(\nu)改成一个可训练变量。
• 二维扩展：把空间维度从一维升到二维，维度增加后采样点数量需求会明显上升，采样策略的设计空间也会变大。

我自己的体会是，PINN这套框架最怕的是“变量少、边界简单、解光滑”的假象。Burgers-Fisher方程之所以值得折腾，正是因为它在最简单的形式上同时叠加了三种性质完全不同的物理机制，一旦在这种方程上把采样、权重、网络结构这些因素理顺，再处理实际工程里的复杂偏微分方程时，心态会完全不同。最后再分享一个小技巧：训练时把随机种子固定住，每次对比方案时用同一个种子，否则不同随机初始化带来的收敛方差，很容易让你误判某个改进手段的真实效果。