深度学习:Sigmoid函数与损失函数求导
转载自:
在神经网络里经常使用sigmoid做**函数,它的导数是怎么样求解呢?因为要使用它的导数来计算梯度下降。
这个过程如下:
1. sigmoid
函数:f(z) = 1 / (1 + exp( − z))
导数:f(z)' = f(z)(1 − f(z))
求导过程如下:
关于sigmoid函数在神经网络中的应用:
http://blog.csdn.net/zhishengqianjun/article/details/75303820