理解反向传播

首先说明前向传播的计算过程:

      前向传播过程就是根据输入的参数,一步步的加权求和,最后得出结果。

理解反向传播

而反向传播的过程和前向传播完全相反:我们这里假设最后只有一个输出J,我们根据这个输出一步步的倒推,一步步的计算出前一层的数据,然后与实际前向算法的结果做差就可以求出误差的大小了。

理解反向传播

 

理解反向传播