Sigmoid Function 求导过程---手写和文档版的

S i g m o i d   F u n c t i o n : f ( u ) = 1 1 + e − u , 其 中 ， u = ∑ i = 1 n x i ω i Sigmoid \ Function:f(u)=\frac 1{1+e^{-u}},\\ 其中，u=\sum_{i=1}^{n}x_i\omega_i Sigmoid Function:f(u)=1+e−u1​,其中，u=i=1∑n​xi​ωi​

• 手写求导过程
  -

• 求导过程

f ( u ) = 1 1 + e − u = ( 1 + e − u ) − 1 f ′ ( u ) = ( − 1 ) ( 1 + e − u ) − 2 ( 1 + e − u ) ′ = ( − 1 ) ( 1 + e − u ) − 2 e − u ( − 1 ) = e − u ( 1 + e − u ) 2 = 1 + e − u − 1 ( 1 + e − u ) 2 = 1 1 + e − u − ( 1 1 + e − u ) 2 = f ( u ) − f 2 ( u ) = f ( u ) ( 1 − f ( u ) ) \begin{aligned} f(u)&=\frac 1{1+e^{-u}}=(1+e^{-u})^{-1} \\ \\ f'(u) &=(-1)(1+e^{-u})^{-2}(1+e^{-u})' \\ \\ &=(-1)(1+e^{-u})^{-2} e^{-u}(-1) \\ \\ &= \frac{e^{-u}}{(1+e^{-u})^2} \\ \\ &=\frac{1+e^{-u}-1}{(1+e^{-u})^2} \\ \\ &=\frac{1}{1+e^{-u}}-\left(\frac{1}{1+e^{-u}}\right)^2 \\ \\ &=f(u)-f^2(u) \\ \\ &=f(u)(1-f(u)) \end{aligned} f(u)f′(u)​=1+e−u1​=(1+e−u)−1=(−1)(1+e−u)−2(1+e−u)′=(−1)(1+e−u)−2e−u(−1)=(1+e−u)2e−u​=(1+e−u)21+e−u−1​=1+e−u1​−(1+e−u1​)2=f(u)−f2(u)=f(u)(1−f(u))​