探索GAN应用与拓展：Valse2018会议精要回顾

时间：11-12 名人轶事提交错误

大家好,今天小编来为大家解答以下的问题，关于探索GAN应用与拓展：Valse2018会议精要回顾，这个很多人还不知道，现在让我们一起来看看吧！

介绍

2014年以来，生成对抗网络（GAN）成为备受关注的方向。我有幸参加了Valse2018 会议，通过生成对抗网络（GAN）报告学到了很多东西。结合我对GAN的理解来总结一下GAN这几年的发展，我的介绍会重点关注以下两个问题。 1）GAN能做什么？ 2）如何学习更好的GAN？

1.1.

什么是生成对抗网络（GAN）？

2014 年，Ian Goodfellow 提出了生成对抗网络（GAN）。如下图所示，GAN由生成器和判别器组成。其中，生成器用于生成数据，判别器用于判断生成的数据是否接近现实。在训练过程中，两者相互竞争，直至达到平衡，停止循环。

1.2.原始GAN的优点和缺点：

在一定程度上，GAN的生成器G虽然学习了近似真实数据的分布，但其优点和可以解决的问题包括：1）GAN不需要马尔可夫链，模型优化仅使用反向传播。优点原因是采样概率高，生成的数据更接近真实数据分布； 2）GAN可以解决数据不足的问题，比如多视图、多任务的生成； 3）结合强化学习做一些研究。

GAN仍然存在一些问题亟待解决。例如，

1）在训练过程中，GAN训练起来比较困难，存在训练异步和梯度消失的问题。如何定义训练策略和损失函数成为关键。其中，GAN训练不同步的原因是生成器G更新了N次，判别器D更新了一次。另外，梯度消失的原因是当真实样本与生成样本很少甚至没有重叠时，其目标函数的(JS，Jensen-Shannon)散度为常数，导致优化目标不连续。

2）GAN存在模型崩溃问题，容易导致生成的样本缺乏多样性；

3）GAN的可解释性较差，因为GAN学习到的数据分布没有明确的表达，是一个类似黑盒的映射函数。

为了解决GAN的上述问题，许多学者正在网络结构和优化方法方面探索GAN。

1.3.典型的生成对抗网络GAN

如下图所示，在原始GAN的基础上，GAN的变体在优化方法、网络结构等方面都发生了较大的变化，下面从两个方面来介绍这些方法。

基于优化方法的GAN

lWassersteinGAN (WGAN)

原始GAN存在训练不稳定的问题，表现为“判别器越好，生成器梯度消失越严重”。为了解决GAN 训练的问题，Arjovsk 等人。提出了Wasserstein GAN（WGAN）并引入了Earth-Mover 距离来测量真实样本与生成样本分布之间的距离。与KL散度和JS散度相比，Earth-Mover距离是平滑的。即使生成的分布和真实分布不重叠，Wasserstein距离仍然可以反映它们的距离。

从数学角度的比较如下图所示。 KL散度和JS散度有突变，而Wasserstein距离是平滑的。如果使用梯度下降法来优化参数，前两者不能提供梯度，但Wasserstein距离可以提供梯度。同样，在高维空间中，如果两个分布不重叠或者重叠部分可以忽略不计，KL和JS既不能反映距离，也不能提供梯度，但Wasserstein可以提供有意义的梯度。

尽管WGAN做出了很多定性解释，但仍然缺乏定量分析。另外，WGAN的缺点是不容易直接优化EM距离。

损失敏感GAN(LS-GAN)

原始GAN对建模对象和真实数据分布没有任何限制，因此原始GAN的无限建模往往会导致过拟合等问题。为了缓解这个问题，学者们开始使用损失敏感的LS-GAN来建模按需分配。 LS-GAN 将建模的样本分布限制为Lipschitz 密度，从而限制了真实密度分布的变化。此外，该方法在不使用批量归一化的情况下仍然可以产生更好的图像。

基于能量的生成对抗网络（EBGAN）

上述GAN方法缺乏能量分析。 Lecun从能量模型的角度提出了基于能量的生成对抗网络方法EBGAN。如下图所示，该方法对判别器D进行改变，将D视为能量函数，分别为真实图像和重建图像分配低能量和高能量。另外，该方法的能量测量与分类相反。当真实数据和生成数据的分布接近时，能量达到平衡。在训练过程中，EBGAN 表现出比GAN 更稳定的性能，并且产生了更清晰的图像。

谷歌结合了WGAN和EBGAN的优点，提出了边界平衡生成对抗网络BEGAN（边界平衡GAN）。该方法通过附加的平衡条件来平衡生成器和鉴别器。

上述方法改进了生成对抗网络的判别器D。此外，生成器G的改进也对算法的性能产生较大的影响。

基于网络结构变化的GAN

近两年，学术界陆续提出了条件生成对抗网络（CGAN）、信息生成对抗网络（InfoGAN）等多种GAN变体。

条件生成对抗网络（CGAN）

在图像标注、图像分类和图像生成过程中，原始GAN存在输出图像标签较多、输出类别较多等问题。为了解决这个问题，Mirza 等人。提出了条件生成对抗网络CGAN。该方法向生成器G和判别器添加了额外的条件信息来指导两个GAN模型的训练。

如下图所示，CGAN将真实类别添加到生成器G和判别器D的目标函数中，与输入随机噪声形成条件概率。训练方式几乎没变，只是方式从GAN的无监督变成了有管理。监督。

lACGAN（辅助类别GAN）

为了辅助生成不同类型的样本，提出了ACGAN方法。如下图所示，ACGAN与CGAN不同的是，它还在判别器D的真实数据中添加了类别信息，使得生成器G网络更加清楚生成样本的数据特征。

信息生成网络

原始的GAN模型可以通过对抗性学习获得与真实数据分布一致的模型分布。模型已经学习了数据的有效语义特征，但模型输入信号的具体维度与数据的语义特征之间的对应关系并不明确。为了更好地生成同一类别的样本，Che 等人。将信息论与GAN相结合，提出了信息生成对抗网络InfoGAN。该方法不仅可以对这些对应关系进行建模，还可以通过控制相应维度的变量来实现相应的变化。

1.4 我的GAN 尝试

关于本次探索GAN应用与拓展：Valse2018会议精要回顾和的问题分享到这里就结束了，如果解决了您的问题，我们非常高兴。