深度学习-- > Improved GAN-- > f-GAN

上一篇博文中详细总结和推导了GAN$GAN$网络的原理，但是如此的GAN$GAN$网络有他的不足之处，本博文将详细说明其不足之处，以及解决和提高的办法。

original GAN 不足之处

简单回顾GAN网络原理

蓝色的线表示：Generated distribution$Generateddistribution$
绿色的线表示：Data(target) distribution$Data(target)distribution$
红色的线表示：Discriminator$Discriminator$

在上图中的左上第一个子图中，generator$generator$ 生成的数据分布与Data distribution$Datadistribution$ 相差较大，则 Discriminator$Discriminator$ 也即是D(x)$D(x)$ 给 Generated distribution$Generateddistribution$ 以较低的概率，而给 Data(target) distribution$Data(target)distribution$ 以较高的概率，由此得到 D(X)$D(X)$ 的曲线走向。在左二子图中，更新后的 generator$generator$ 可能会因为更新步伐太大，移到了Data distribution$Datadistribution$ 的右边，由此 D(X)$D(X)$ 更新如图，G、D$G、D$ 如此不断的更新迭代，最终 Generated distribution$Generateddistribution$ 与 Data(target) distribution$Data(target)distribution$ 重合，那么此时D(X)$D(X)$就变成了一条水平直线。

存在的问题

我们知道整个GAN$GAN$网络的目标都是在：

通过不断的更新D、G$D、G$来得到比较好的 Generator$Generator$ ，也就是上式的G∗$G^{\ast }$，那么在更新D$D$时：

我们是不断的通过Minize max V(G,D)$MinizemaxV(G,D)$ 来更新 G$G$，那么问题来了，这个max V(G,D)$maxV(G,D)$是否能准确的反映Pdata$P_{data}$与PG$P_G$之间的差距呢？

由上图可以看出，当PG$P_G$与Pdata$P_{data}$无重合时（可能是sample出的样本没有重合），即使两者的 distribution$distribution$ 在改进，其JS(PG||Pdata)$JS(P_G||P_{data})$始终为log2$log2$，那么在更新G$G$参数时，没有改进的动力。很难得到很好的Generator$Generator$。

Unified Framework

f-divergence

之前我们介绍的GAN$GAN$网络中的Discriminator$Discriminator$只是和Jensen−Shannon divergence$Jensen-Shannondivergence$有关，论文Training Generative Neural Samplers using Variational Divergence Minimization$TrainingGenerativeNeuralSamplersusingVariationalDivergenceMinimization$中介绍了f−divergence$f-divergence$，其Discriminator$Discriminator$不只是仅仅由Jensen−Shannon divergence$Jensen-Shannondivergence$来定义，其核心的一句话就是you can use any f−divergence$youcanuseanyf-divergence$

我们假设有两个分布，分别 p$p$ 和 q$q$，代入到GAN$GAN$网络中，就是之前说的 Pdata$P_{data}$ 和 PG$P_G$，其中 p(x)$p(x)$ 和 q(x)$q(x)$ 就是sample$sample$ 出来的样本的概率。由此我们可以这样来定义f−divergence$f-divergence$：

显然这样定义的Df(P||Q)$D_f(P||Q)$必须能起到衡量P、Q$P、Q$ 分布的拟合程度，并且值越小拟合的越好。那么就必须具备以下条件：

• f$f$函数必须是凸的
• f(1)=0$f(1)=0$

那么可以得到，当对于所有的x$x$都有P(x)==Q(x)$P(x)==Q(x)$时：Df(P||Q)=0$D_f(P||Q)=0$，这个时候显然拟合的最好，并且是smallest Df(P||Q)$smallest{D}_f(P||Q)$。

再由凸函数的特性可得：

故可得到 Df(P||Q)≥f(1)$D_f(P||Q)\ge f(1)$。

其实KL divergence$KLdivergence$就可以理解为一种f−divergence$f-divergence$。那么f$f$可以选哪些函数呢？只要符合上面的要求即可：

Fenchel Conjugate

首先假设f(x)$f(x)$是一个凸函数，定义如下公式：

得到 f∗(t)$f^{\ast }(t)$，这里固定住不同的 x例如(x1,x2,..)$x例如(x_1,x_2,..)$，都能得到不同的关于t$t$的线性函数，其图可以如下：

然后取其max$max$，就得到上图红色的那条线。由此可以得到一个结论：

我们把这样的 f∗(t)$f^{\ast }(t)$ 叫做f(x)$f(x)$ 的conjugate function$conjugatefunction$

举个具体的例子，当 f(x)=xlogx$f(x)=xlogx$ 时，可得f∗(t)$f^{\ast }(t)$：

那么如何得出当 f(x)=xlogx$f(x)=xlogx$ 时，f∗(t)$f^{\ast }(t)$的具体数学公式呢？

那么可得结论，当f(x)=xlogx$f(x)=xlogx$时，其conjugate function f∗(t)=exp(t−1)$conjugatefunction{f}^{\ast }(t)=exp(t-1)$，也即：

这里需要注意：(f∗)∗=f$(f^{\ast }{)}^{\ast }=f$

Connect to GAN

那么上面讲的与GAN$GAN$有什么关系呢？
假设 f(x)为凸函数，且f(1)=0$f(x)为凸函数，且f(1)=0$，则由上面的推导我们可以得出：

在 f(x)=maxt⫅dom(f∗){tx−f∗(t)}$f(x)=\underset{t⫅dom(f^{\ast })}{max}\left\{tx-f^{\ast }(t)\right\}$ 中，我们可以令 x=p(x)q(x)$x=\frac{p(x)}{q(x)}$，再由上面已经得出的f−divergence$f-divergence$ 条件可得：

这里可以假设存在某一个函数D$D$，其输入为x$x$，输出为t$t$，则有：

注意：不论函数D$D$为何函数，其符号都为大于等于。

那么我们可以选择到某个函数D$D$，使其上式右边取最大，则可得如下：

Df(P||Q)$D_f(P||Q)$ 表示 f−divergence$f-divergence$，上面我们已经说明了 f−divergence$f-divergence$ 可以用来衡量两种分布的拟合程度。

继续推导可得：

得出的形式是不是很像上一博文中介绍的V(G,D)$V(G,D)$函数？

继续可得：

所以我们可以这样理解更新G$G$的过程，实际就是不断的减小f−divergence$f-divergence$，而这个时候f−divergence$f-divergence$ 直接就是用来衡量两种分布的拟合程度。

实际train的不同

在original GAN$originalGAN$中，在Inner loop$Innerloop$中通过多次循环来更新D$D$，然后再更新G$G$；而在上面介绍的 f−Gan$f-Gan$ 中，只需要一步即可更新D、G$D、G$。

由此我们可以选中任意一种f−diveragence$f-diveragence$ 去 minize$minize$。