非线性支持向量机和核函数

非线性支持向量机和核函数

主要解决的问题:非线性分类的问题

 

非线性支持向量机和核函数

对于这样的问题,可以将训练样本从我们的原始空间映射到一个更高维的空间中线性可分,假如原始空间维数是有限的,也就是说属性有限,那么一定存在一个高位特征空间样本可分。令ϕ(x)非线性支持向量机和核函数 表示将x映射后的特征向量,于是在特征空间中,划分超平面所对映的模型可以表示为:

非线性支持向量机和核函数

对出我们的最小化函数:

非线性支持向量机和核函数

其对偶问题为:

非线性支持向量机和核函数

 

 

非线性支持向量机和核函数

 

那么我们就可以得到下面的公式:

非线性支持向量机和核函数

非线性支持向量机和核函数

 

 

 

然后几种常用的核函数:

非线性支持向量机和核函数

非线性支持向量机和核函数

 

本质上核函数我是这么理解的,他表示我们训练样本的维数太高的话,可以使用核函数计算我们样本x的乘积。这样我们既可以提高计算效率。