《统计学习方法》——李航 学习大纲

最近在学习李航写的统计学习方法概论, 每一章都用xmind理清了思路,括号里是书里的公式,第一次写博文,敬请指教~~~~


第一章 统计学习方法论

《统计学习方法》——李航 学习大纲

《统计学习方法》——李航 学习大纲

第二章 感知机

每个方法其实只需要着重掌握三要素和输入输出就可以了,主要看模型、策略和算法。

感知机主要是二类分类的线性分类模型。

看到后面会注意感知机和支持向量机的区别。


《统计学习方法》——李航 学习大纲



第三章 k近邻法

k近邻算是入门级别的机器学习的方法了。我们在上机器学习课的时候,老师也介绍这是基础的方法,主要核心思想是“物以类聚”,看训练集中离该输入最近的实例多数属于什么类别。

KNN主要掌握三要素,k值的选择、距离度量和分类决策规则。

注意在knn算法实现的部分,有提到kd树,平衡kd树和kd数的搜索的算法都比较重要,有利于KNN的实现。


《统计学习方法》——李航 学习大纲



第四章  朴素贝叶斯法

学习朴素贝叶斯法之前,最好看一下贝叶斯定理。

朴素贝叶斯法的精髓在于后验概率最大化,弄清后验概率的含义。

《统计学习方法》——李航 学习大纲



第五章     决策树

决策树主要抓住三个步骤:特征选择、决策树的生成和决策树的修剪。

一般决策树主要用于分类。

CART决策树也叫分类与回归决策树,注意掌握生成时最优切分变量和切分点的算法生成的思想。

《统计学习方法》——李航 学习大纲