Theory behind GAN
假如要生成一些人脸图，实际上就是想要找到一个分布，从这个分布内sample出来的图片像是人脸，分布之外生成的就不像人脸。而GAN要做的就是找到这个distribution。
在GAN之前用的是Maximum Likelihood Estimation。
Maximum Likelihood Estimation(最大似然估计)
最大似然估计的思想是，假设数据的分布是 Pdata(x) ，定义一个分布为PG(x;θ) ，求得一组参数θ，使得PG(x;θ) 与Pdata(x) 越接近越好。具体步骤如下：
- 从Pdata(x) 中sample出一些样本；
- 对于sample出来的样本，可以计算出它们的likelihood；
- 计算总分likelihood L，并找到一组参数θ* 使得L最大。
MLE=Minimize KL Divergence
最大似然估计就相当于最小化的KL散度。
如果使用最大似然估计，采用高斯混合模型定义PG ,生成的图片会非常模糊，现在使用generator产生PG 。优化的目标就是使PG 和Pdata 越接近越好，即使得G* 越小越好，但是不知道PG 和Pdata 的公式。
虽然不知道PG 和Pdata 的公式，但是可以从这两个分布中做sample。可以用Discriminator来衡量PG 和Pdata 的Divergence。训练出来的maxV(G,D) 就相当于JS divergence。
证明过程
要求V(G,D)的最大值，就是求
的最大值。
因为PG 和Pdata 都是固定的，所以设为常数，然后通过求导求出最大值。
将求出的D* 回带入V(G,D)，然后化简。
Generator 的训练目标就是，找到一个G* 去最小化PG 和Pdata 之间的差异，即
，由于不知道PG 和Pdata 的具体公式，所以无法直接计算divergence。于是通过一个discriminator来计算两个分布之间的差异，
。所以最终优化目标为
。
假设已经把Generator固定住了，红点表示固定住G后的
，也就是PG 和Pdata 的差异。现在的目标是最小化这个差异，所以下图的三个网络中，G3 是最优秀的。
具体的做法就是：
- 首先固定G，找到一个能够使V最大的D；
- 然后固定D，找到能够使这个最大D情况下V最小的G。不停的迭代。
虽然L(G)中有求最大值，但是它依然可以做微分，即分段求微分。
具体算法如下：
- 给定一个G0 ；
- 求解出使得V(D,G) 最大的D0* ；
- 利用梯度下降求解出G1 ;
- 利用G1 求解出使得V(D,G) 最大的D1* ，不断迭代。
其实在训练过程中不是真正的minimize JS散度，因为G在训练时变化时，V(D,G) 也会发生改变；此时由于D固定，所以JS散度会变得不再是此刻G下的JS散度了。所以要保证V(D,G0) 和V(D,G1) 很像，即G的参数变化很小。
Algorithm for GAN（Review）
首先训练D，多训练几次直至收敛；之后训练G：其中第一项是与生成器无关的，由于G不能训练太多，否则会导致D无法evaluate JS，所以update一次就好。
- In practice
理论上V是要取期望值，但是实际上是不可能的，只能用样本的均值进行估计。
论文原文在实作的时候把log(1-D(x)) 换成-log(D(x)) ，蓝色曲线刚开始的值很大，适合做梯度下降。其实后来实验证明两种结果都差不多。
