Machine learning notes (三)

上一篇文章链接:传送门


一、支持向量机(SVM)

       SVM算法的核心是选择一个最佳的超平面将输入变量空间中的点按照它们的类(0或1)分开。所谓的“超平面”其实就是一个分割输入变量空间的线,在二维空间中,我们可以将其可视化为一条直线,并且假设我们所有的输入点都可以被这条直线完全分开。

Machine learning notes (三)
(虚线为支持向量,实线为超平面)

       超平面:二维以直线分隔、三维以平面分隔、更多维类似。正负样本离该平面越远,预测数据抗扰动能力越强。

二、机器学习的回归问题

       回归:预测与对象关联的连续值属性

       机器学习里面涉及到的回归算法:普通线性回归、岭回归、LASSO回归、弹性网络、贝叶斯回归、SVR、逻辑斯蒂回归、核岭回归、多任务岭回归、回归树、nearest neighbors、 random forest.

Machine learning notes (三)

       机器学习应用范围:药物反应、股票价格、

三:拟合和回归的区别及联系

       回归是拟合的一种方法。拟合的概念更广泛,拟合包含回归,还包含插值和逼近。回归强调有随机因素,而拟合没有。拟合侧重于调整曲线的参数,使得与数据相符。而回归重在研究两个变量或多个变量之间的关系。