逻辑回归,感知机与神经网络的关系

  1. 逻辑回归是神经网络的基础,具体体现为逻辑回归的输出为神经网络某个神经元未经**的输出。
    可以理解为逻辑回归算法是构成神经网络的神经元的算法。
  2. 感知机可以看做是两层神经元组成,**函数是 Heaviside函数(阶跃函数)的神经元模型。当输入信号大于阈值,神经元兴奋,输出1;否则神经元抑制,输出 0。
  3. Logistic回归可以看做是两层神经元,**函数是Sigmoid函数的神经网络。如下图所示:
    逻辑回归,感知机与神经网络的关系
  4. 神经网