13.1 生成对抗网络基础：极小极大博弈、训练稳定性与模式崩溃

13.1 生成对抗网络基础：极小极大博弈、训练稳定性与模式崩溃

生成对抗网络是一种通过对抗过程来估计生成模型的框架。其核心思想在于同时训练两个相互博弈的神经网络：一个生成器和一个判别器，二者在动态竞争中共同进化，最终使生成器能够产出足以乱真的数据样本。本节将深入解析GAN的理论基础——极小极大博弈，并系统探讨其训练过程中面临的两个核心挑战：训练稳定性与模式崩溃。

13.1.1 极小极大博弈：对抗训练的理论框架

GAN的灵感来源于博弈论中的二人零和博弈。在该框架下，生成器和判别器是两个互为对手的玩家，它们通过优化一个共同的价值函数进行竞争[1]。

13.1.1.1 基本定义与目标函数

设生成器GGG是一个映射函数，它将一个从先验分布pz(z)p_z(z)pz​(z)（如标准正态分布）中采样的噪声向量zzz映射到数据空间，生成样本G(z)G(z)G(z)。生成器的目标是学习数据xxx的真实分布pdata(x)p_{data}(x)pdata​(x)，使得生成的样本G(z)G(z)G(z)的分布pgp_gpg​尽可能接近pdatap_{data}pdata​。

判别器DDD是一个二分类器，其输入是一个样本xxx（可以是真实数据，也可以是生成数据），输出一个标量，表示xxx来自真实数据分布pdatap_{data}pdata​而非生成分布pgp_gpg​的概率。

GAN的训练目标可以表述为一个极小极大博弈，其价值函数V(D，G)V(D， G)V(D，G)为：
min⁡Gmax⁡DV(D，G)=Ex∼pdata(x)[log⁡D(x)]+Ez∼pz(z)[log⁡(1−D(G(z)))] \min_{G} \max_{D} V(D， G) = \mathbb{E}_{x \sim p_{data}(x)}[\log D(x)] + \mathbb{E}_{z \sim p_z(z)}[\log(1 - D(G(z)))]Gmin​Dmax​V(D，G)=Ex∼p