线性回归模型一(线性回归)

 

线性回归模型

 

先假设只有一个特征的时候。

我们的目的就是能找出最好的w和b是预测出来的y尽可能接近真实的y。

预测函数:F(x) = w*x+b (其中w是权重,x是特征,b是偏差)

误差方程:线性回归模型一(线性回归)

求导方程及其过程:

线性回归模型一(线性回归)

对于凸函数求解,就是导数为0时最优。

 

线性回归模型一(线性回归)

线性回归模型一(线性回归)

 

如果是多元,也就是多个特征呢?

 

线性回归模型一(线性回归)

 

 

线性回归模型一(线性回归)

上式在线性回归模型一(线性回归)满秩的时候成立。

 

如果不满秩:可以通过引入正则化项,在多个解中选择其中一个解作为输出。

(在下个总结详细说说这三个回归模型)