深度学习:Sigmoid函数与损失函数求导

转载自:


在神经网络里经常使用sigmoid做**函数,它的导数是怎么样求解呢?因为要使用它的导数来计算梯度下降。

这个过程如下:

1. sigmoid

函数:f(z) = 1 / (1 + exp( − z))

导数:f(z)' = f(z)(1 − f(z))


求导过程如下:

深度学习:Sigmoid函数与损失函数求导


关于sigmoid函数在神经网络中的应用:

http://blog.csdn.net/zhishengqianjun/article/details/75303820