最速下降法

梯度下降法(英语:Gradient descent)是一个一阶最优化算法,通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值,必须向函数上当前点对应梯度(或者是近似梯度)的反方向的规定步长距离点进行迭代搜索。如果相反地向梯度正方向迭代进行搜索,则会接近函数的局部极大值点;这个过程则被称为梯度上升法。

最速下降法

例子:
最速下降法

确定下降方向

1.
最速下降法
2.
最速下降法

为何下降慢

最速下降法

收敛定理

还没搞懂。。。。
最速下降法

向量在矩阵下的范数没懂(学的好烂啊。。。)

最速下降法