梯度下降法中梯度的概念
梯度的概念是从方向导数推倒出来的，沿着梯度的方向，方向导数最大，方向导数的计算方法：
为
=
梯度下降法中对于参数的更新公式：
一次更新完所有参数后，参数改变量的向量相加，即为梯度的方向，参数按照梯度的方向移动，到达局部最优解下降的最快。
梯度的概念是从方向导数推倒出来的，沿着梯度的方向，方向导数最大，方向导数的计算方法：
为
=
一次更新完所有参数后，参数改变量的向量相加，即为梯度的方向，参数按照梯度的方向移动，到达局部最优解下降的最快。