【机器学习】Bp神经网络算法数学推导

以下两张图片是bp神经网络的正向传播误差反向传播的数学推导,包括节点权值和阈值的更新。

该bp神经网络是单隐层神经网络,即含有一个输入层x1-xd,一个隐含层b1-bq,一个输出层y1-yl。

其中隐含层和输出层使用**函数 f(x) = 1/(1+e^(-x)) 。

Vih表示xi与bh连接权值,gamah表示bh的阈值;Whj表示bh与yj的连接权值,thetaj表示yj的阈值。

误差反向传播过程中,需要更新的参数:d*q+q*l个权值,q+l个阈值。



【机器学习】Bp神经网络算法数学推导

图 1

【机器学习】Bp神经网络算法数学推导

图 2