《统计学习方法》读书笔记——第三章 K近邻法

写在前面

本系列博客是自己对于《统计学习方法》这本书的读书笔记,在读过每个章节以后根据自己的理解写下这一章的知识框架以及补充一些延伸知识点。


目录

写在前面

本章框架

KNN算法

KNN模型

KNN算法的实现

补充知识点

KNN与K-means


本章框架

KNN算法

针对目标点,找到和目标点最近的K个点,根据这K个点分类决策目标点的类别。

KNN模型

KNN模型的三要素:距离度量、K值选择、决策规则

其中K值越大,模型越简单;K值越小,模型越复杂。

KNN算法的实现

构造和搜索kd树(一种二叉树)

构造过程:根据实例点对特征空间进行划分


补充知识点

KNN与K-means的区别

《统计学习方法》读书笔记——第三章 K近邻法