【吴恩达机器学习】章节10 神经网络参数的反向传播算法

目录:

+ 代价函数

+ 反向传播算法

+ 使用注意(展开参数,梯度检测,随机初始化,组合到一起)

+ 无人驾驶

 

 

谈论一个学习算法在给定训练集时为神经网络拟合参数

一·代价函数

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

 

二·反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

为了计算导数项,采用反向传播算法(1个训练样本)

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

细节

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

 

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法项是代价函数关于这些所计算出的中间项的偏导数,它们衡量的是为了影响这些中间值我们想要改变神经网络中的权重的程度,进而影响整个神经网络的输出。

三·使用注意(展开参数,梯度检测,随机初始化,组合到一起)

展开参数

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

梯度检测

数值上计算梯度

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

 

随机初始化

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

 

组合到一起

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

【吴恩达机器学习】章节10 神经网络参数的反向传播算法

 

四·自动驾驶

【吴恩达机器学习】章节10 神经网络参数的反向传播算法