《神经网络设计》读书笔记——反向传播算法
多层网络（Multilayer Network）
反向传播算法（Backpropagation Algorithm）
性能指标（Performance Index）
-
F(x)=E[eTe]=E[(t−a)T(t−a)]
逼近性能指标（Performance Index）
-
F(x)=eT(k)e(k)=(t(k)−a(k))T(t(k)−a(k))
敏感性（Sensitivity）
前向传播（Forward Propagation）
-
a0=p -
am+1=fm+1(Wm+1am+bm+1),m=0,1,...,M−1 -
a=aM
反向传播（Backward Propagation）
更新权重（近似最速下降法）
-
Wm(k+1)=Wm(k)−αsm(am−1)T -
bm(k+1)=bm(k)−αsm