[阅读笔记]《统计学习方法》李航著：Chp3 k近邻
[阅读笔记]《统计学习方法》李航著：Chp3 k近邻
本章概要
5. k近邻法不具有显式的学习过程
3.1 k近邻算法
- 多数表决
3.2 k近邻模型
- k近邻使用的模型实际上对应于对特征空的划分
- 距离度量：欧式距离、距离、Minkowski距离
- k值选择：k减小->模型复杂性增加->容易过拟合；k值一般取较小的数值，通常采用交叉验证法来选取最优k值
- 分类决策规则：多数表决，等价于经验风险最小化
3.3 k近邻法的实现：树
- 树更适用于训练实例远大于空间维数时的近邻搜索