第五章线性回归算法
5.1 简单线性回归
- 解决回归问题
- 具有可解释性
- 很多算法的基础
- 目标函数
损失函数（越小模型越好）和效用函数（最大模型越好）统称为目标函数。
推荐学习：最优化原理和凸优化原理。
- 求解参数
向量化运算
向量化运算性能大于for循环
5.5 衡量模型的指标：MSE,RMSE,MAE
为了让量纲与y一致（比如房产预测中都是万元），使用RMSE。
- RMSE相较于MAE，可将误差大的值放大，因此在损失函数中使用形如MSE的平方形式作为目标函数，可以更好的拟合数据。让RMSE更小，会比MAE更好。
5.6 最好的衡量线性回归模型的指标：R squared（R方）
基线模型：把平均值作为预测值的模型
- Scikit-learn中的线性回归法，score默认为R Squared