西瓜书-感知机与BP算法

1.感知机

李航老师统计学习方法感知机部分

2.神经网络

感知机由两层神经元组成，输入层接受外界信号后传给输出层，输出层是M-P神经元。感知机只能解决线性可分问题。
要解决非线性可分问题，需考虑使用多层功能神经元。

其中，输入层神经元接受外界输入，隐层与输出层神经元对信号进行加工，最终结果由输出层神经元输出；换言之，输入层单元仅是接受输入，不进行函数处理，隐层与输出层包含功能神经元，这就是单隐层网络

神经网络的学习过程就是根据训练数据来调整神经元之间的‘连接权’以及每个功能神经元的阈值

标准BP算法

BP-误差逆传播(error backpropagation 简称BP)

四个求导
第一个偏导

第二个偏导



第三个偏导



第四个偏导