第二章-2.3线性回归学习机

回归问题:根据给定的训练集

    第二章-2.3线性回归学习机

寻找一个实值函数f(x),以便用y=f(x)推断出任一模式x所对应的y值。

先研究最简单的情况:

    第二章-2.3线性回归学习机

线性回归就是寻找一条直线,使训练点x离其最近。

如果超平面y=(w.x)+b满足:

    第二章-2.3线性回归学习机

则该超平面就是一个硬第二章-2.3线性回归学习机-带超平面、

第二章-2.3线性回归学习机

求其最优值:

第二章-2.3线性回归学习机

1,平分最近点回归法

第二章-2.3线性回归学习机

第二章-2.3线性回归学习机

得到最近点c、d分别为:

    第二章-2.3线性回归学习机

      第二章-2.3线性回归学习机

最后取得

第二章-2.3线性回归学习机

第二章-2.3线性回归学习机

得到划分的超平面第二章-2.3线性回归学习机,令第二章-2.3线性回归学习机得到y=(w.x)+b

2,最大间隔回归法

第二章-2.3线性回归学习机

其中

第二章-2.3线性回归学习机

求出最优解第二章-2.3线性回归学习机,划分出超平面第二章-2.3线性回归学习机,类似与上面可得y=(w.x)+b