多元线性回归---笔记

  1. 吴恩达老师课程的文档版https://blog.****.net/quiet_girl/article/details/69891443
  2. https://blog.****.net/louishao/article/details/54670081

之前用于学习梯度下降法的例子是

  • 多元线性回归---笔记

该例子中只有一个自变量x(房屋面积),一个因变量(房价),线性回归目标是一个一元一次方程,该函数有两个参数多元线性回归---笔记多元线性回归---笔记

我们知道现实生活中房价不仅仅是房屋面积单因素所决定的,房价往往由房屋面积、楼层、卧室数量、房龄等多因素决定的。那么自变量就应该不仅仅只有房屋面积。

多元线性回归---笔记

上图中呈现了相应的变量关系以及数据。

  • 多元线性回归---笔记:房屋面积

  • 多元线性回归---笔记:卧室数量

  • 多元线性回归---笔记:楼层数

  • 多元线性回归---笔记:房龄

  • y:房价

多元线性回归---笔记

此时,我们再次试图使用线性回归的方法预测房价,那么式子将变成

  • 多元线性回归---笔记:此时自然而然,式子中出现了5个参数

在给出的数据表格中,给出了47行数据,每一行数据都是由4个自变量组成,为了表示清楚,吴恩达老师给出一种表示方法:

上标表示第几行数据,下标表示第几个自变量。

那么我们得到了线性回归的式子,如何利用梯度下降算法进行房价预测?我们可以按照梯度下降的步骤,写出损失函数。

  • 多元线性回归---笔记

按照梯度下降法的思路我们需要找到损失函数的最小值时各个theta的值。问题转化为求损失函数最小值问题。

为了便于运算,我们将多元线性回归---笔记看做一个向量多元线性回归---笔记多元线性回归---笔记看做一个向量x。

那么,多元线性回归---笔记,就可以看做是多元线性回归---笔记与向量x的内积。

式子都重新表示清楚后,接下来利用梯度下降的过程求损失函数最小值:

同时对所有变量(多元线性回归---笔记)求偏导数,找到下降方向,更新多元线性回归---笔记

 

 

多元线性回归---笔记

 

 

多元线性回归---笔记

将h(x)代入梯度下降算法,如下图: 

多元线性回归---笔记