机器学习技法系列一

线性SVM

最大间隔:所有训练样例距离分界超平面的距离取最小值,最大化最小值即可获得最胖分界面

机器学习技法系列一

支持向量条件

  • max margin :边界最大化
  • yn(wx+b)>0 同号同侧,表明分类正确(硬间隔)
  • margin边界取全部样本距离最小值

机器学习技法系列一

转化最优,另min (y(wx+b))= 1,,边界最大化转化为max(1/w),同时可转化为min(w*w/2)

机器学习技法系列一

  • 限制转为无限制

存在1-y(wx+b)>0,max最大化直接爆炸为无限大,从而保证全部1-y(wx+b)小于0,当1-y(wx+b)全部小于0时,max最大化使得全部@取值为0,问题退化为原先最大化w*w/2

机器学习技法系列一

拉格朗日对偶

机器学习技法系列一

svm问题转化:极限点偏导数为0

机器学习技法系列一
机器学习技法系列一