李宏毅《GAN Lecture》学习笔记1 - GAN
GAN的入门介绍
训练D的过程：
训练G的过程：
将G与D组成一个大的网络，同时，固定住D的参数，使得输出的scale越大越好。
算法：
其中，Learning D和Learning G时，采样的noise sample不必相同。
GAN可以被视为Structured Learning中的一种，下面是Structured Learning的定义。
将output视为一个class时，Structured Learning可以视为一类极端的One-shot/Zero-shot Learning，因为输出空间非常巨大，很多时候输出是从未见过的类别。
Structured Learning需要有大局观，需要将生成的各个components有序地组合起来，单看某一个component是没有意义的。
传统的Structured Learning有两类方法：bottom-up和top-down，可以将bottom-up视为generator，而将top-down视为discriminator，这样，GAN就可以理解为这两种方法的结合体。