从零到精通SVM之核函数

原因:一些分类 在现有空间不是线性可分

方法:映射到高维就是线性函数了

栗子:

从零到精通SVM之核函数

嗯哼哼 线性不可分 


从零到精通SVM之核函数

从零到精通SVM之核函数

嗯哼哼 就成了线性函数了

就是那么简单 把函数变成线性可分

可是有两个大问题

第一个问题

你首先得知道原先的非线性函数吧

其次,就算你知道了非线性函数映射到高维空间计算量是噌噌噌的往上涨,传说的“维数灾难”啊

所以

这不是一个好的方法

嗯哼哼 在看下 我们要求的

从零到精通SVM之核函数

你会发现 

我们要求的只是高维空间的内积

会不会有种从天而降的函数能够使我们输入低维数的值而计算出对应高维的内积值

嗯哼哼 这个想法有点大胆啊

首先都不知道是几维

其次还只计算内积值

但是

牛逼的数学家们还真发现了这些函数,而这些函数就是核函数

介绍下常见的核函数

线性核函数

从零到精通SVM之核函数

多项式核函数

从零到精通SVM之核函数

高斯核函数

从零到精通SVM之核函数

下次 研究下核函数的具体区别 以及彼此的优缺点

另外SVM还能用作回归模型

嗯哼哼 下次 有机会研究下

可参考http://www.cnblogs.com/pinard/p/6113120.html