《统计学习方法》——李航 学习大纲
最近在学习李航写的统计学习方法概论, 每一章都用xmind理清了思路,括号里是书里的公式,第一次写博文,敬请指教~~~~
第一章 统计学习方法论
第二章 感知机
每个方法其实只需要着重掌握三要素和输入输出就可以了,主要看模型、策略和算法。
感知机主要是二类分类的线性分类模型。
看到后面会注意感知机和支持向量机的区别。
第三章 k近邻法
k近邻算是入门级别的机器学习的方法了。我们在上机器学习课的时候,老师也介绍这是基础的方法,主要核心思想是“物以类聚”,看训练集中离该输入最近的实例多数属于什么类别。
KNN主要掌握三要素,k值的选择、距离度量和分类决策规则。
注意在knn算法实现的部分,有提到kd树,平衡kd树和kd数的搜索的算法都比较重要,有利于KNN的实现。
第四章 朴素贝叶斯法
学习朴素贝叶斯法之前,最好看一下贝叶斯定理。
朴素贝叶斯法的精髓在于后验概率最大化,弄清后验概率的含义。
第五章 决策树
决策树主要抓住三个步骤:特征选择、决策树的生成和决策树的修剪。
一般决策树主要用于分类。
CART决策树也叫分类与回归决策树,注意掌握生成时最优切分变量和切分点的算法生成的思想。