(MNIST - GAN)鉴别和发电机误差下降接近零的第一次迭代
问题描述:
后,为了获得在生成对抗性网络的洞察力,我想实现在此基础上Stanford university assignment使用tensorflow为MNIST数据集自己的GaN。(MNIST - GAN)鉴别和发电机误差下降接近零的第一次迭代
我仔细检查和研究了我对给定练习的解答,并且通过了测试。但是,我的发电机只会产生噪音。
我很确定我得到的帮助功能正确,所有的测试都通过了,而且我在网上找到的参考文献显示了完全相同的实现。那么,它可能 出问题才是鉴别和发电机架构:
def discriminator(x):
with tf.variable_scope("discriminator"):
l_1 = leaky_relu(tf.layers.dense(x, 256, activation=None))
l_2 = leaky_relu(tf.layers.dense(l_1, 256, activation=None))
logits = tf.layers.dense(l_2, 1, activation=None)
return logits
def generator(z):
with tf.variable_scope("generator"):
l_1 = tf.maximum(tf.layers.dense(z, 1024, activation=None), 0)
l_2 = tf.maximum(tf.layers.dense(l_1, 1024, activation=None), 0)
img = tf.tanh(tf.layers.dense(l_2, 784, activation=None))
return img
我看到,发电机和鉴别错误在第一迭代下降接近于零。
Iter: 0, D: 1.026, G:0.6514
Iter: 50, D: 2.721e-05, G:5.066e-06
Iter: 100, D: 1.099e-05, G:3.084e-06
Iter: 150, D: 7.546e-06, G:1.946e-06
Iter: 200, D: 3.386e-06, G:1.226e-06
...
由于学习率较低,例如, 1e-7
,鉴别器和发生器的误码率缓慢衰减,但最终会降至零,并产生噪声。
Iter: 0, D: 1.722, G:0.6772
Iter: 50, D: 1.704, G:0.665
Iter: 100, D: 1.698, G:0.661
Iter: 150, D: 1.663, G:0.6594
Iter: 200, D: 1.661, G:0.6574
...
我得到了tensorflow图并运行了我的实验,但迄今未能解释任何有意义的实验。 如果您有任何建议或可以推荐一种调试技术,我会很高兴听到它。
按照要求,这里是我的GAN码 - 失重:
def gan_loss(logits_real, logits_fake):
labels_real = tf.ones_like(logits_real)
labels_fake = tf.zeros_like(logits_fake)
d_loss_real = tf.nn.sigmoid_cross_entropy_with_logits(logits=logits_real, labels=labels_real)
d_loss_fake = tf.nn.sigmoid_cross_entropy_with_logits(logits=logits_fake, labels=labels_fake)
D_loss = tf.reduce_mean(d_loss_real + d_loss_fake)
G_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(logits=logits_fake, labels=labels_fake))
return D_loss, G_loss
答
据我了解这种模式,你应该更改此设置:
G_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(
logits=logits_fake, labels=labels_fake))
这样:
G_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(
logits=logits_fake, labels=tf.ones_like(logits_fake)))
海事组织最可能的事情是你在发电机的损失功能方面有错误。你能显示你的损失函数代码吗? –
我更新了我的问题 –
测试结果为: d_loss中的最大错误:1.20519e-16 g_loss中的最大错误:0.0119083 –