人工智能教程 - 学科基础课程2.6 - 机器学习导论 2.线性模型,代价函数,轮廓图

线性回归算法

例子还是之前预测房价:
人工智能教程 - 学科基础课程2.6 - 机器学习导论 2.线性模型,代价函数,轮廓图

Notation:

  • m = Number of training examples
  • x’s = “input” variable/features 特征量
  • y’s = “output” variable/ “target” variable 目标变量

Estimated price/hypothesis

hΘ(x)=Θ0+Θ1x\color{red}h_\Theta (x) =\Theta_0+\Theta_1x

hΘ(x)h_\Theta (x) shorthand h(x)

代价函数(cost function)

J(Θ0,Θ1)=12mi=1m(hΘ(x(i))y(i))2\color{red}J(\Theta_0,\Theta_1)=\frac{1}{2m}\sum_{i=1}^{m}(h_\Theta(x^{(i)})-y^{(i)})^2

平方误差的代价函数是解决线性回归问题最常用的手段.

优化目标(Goal)

minimizeΘ0,Θ1J(Θ0,Θ1)minimize_{\Theta_0,\Theta_1}J(\Theta_0,\Theta_1)

代价函数的轮廓图:

人工智能教程 - 学科基础课程2.6 - 机器学习导论 2.线性模型,代价函数,轮廓图

人工智能教程 - 学科基础课程2.6 - 机器学习导论 2.线性模型,代价函数,轮廓图