【机器学习】Bp神经网络算法数学推导
以下两张图片是bp神经网络的正向传播和误差反向传播的数学推导,包括节点权值和阈值的更新。
该bp神经网络是单隐层神经网络,即含有一个输入层x1-xd,一个隐含层b1-bq,一个输出层y1-yl。
其中隐含层和输出层使用**函数 f(x) = 1/(1+e^(-x)) 。
Vih表示xi与bh连接权值,gamah表示bh的阈值;Whj表示bh与yj的连接权值,thetaj表示yj的阈值。
误差反向传播过程中,需要更新的参数:d*q+q*l个权值,q+l个阈值。
图 1
图 2