05 ,梯度下降:原理

1 ,θ 不一定可求 :

  1. 并不是在任何情况下,θ 都能求出来的

2 ,梯度 :

  1. 理论 : 坡度最陡的方向
  2. 如图 :
    05 ,梯度下降:原理

3 ,梯度下降方向 :

梯度的反方向

4 ,梯度下降求解 :

  1. 直接求解 : 那是线性回归的一种特例,不适用所有情况
  2. 常规套路 :
    交给机器一堆数据,然后告诉它什么样的学习方式是对的(目标函数),然后让它朝着这个方向去做
  3. 优化 : 一小步一小步的走

5 ,梯度下降目标 : 走到山谷的最低点

  1. 找到当前最合适的方向
  2. 走那么一小步,走快了该”跌倒 ”了
  3. 按照方向与步伐去更新我们的参数