机器学习理论笔记（2）

分类: 文章 • 2024-09-15 15:25:34

最近邻方法

训练集training set $T$
input $x$

\begin{matrix} (2.1) & \hat{Y} (x) = \frac{1}{k} \sum_{x_{i} \in N_{k} (x)} y_{i} \end{matrix}

如图，取

k = 15

和

k = 1

，根据

\hat{Y} (x) > 0.5 ?

对点进行分类

但是一般情况下

k

的取值既不能太小也不能太大。下面是在原模型的基础上给了10000个测试点，这是一个测试点分类和训练点分类正确率与

k

值大小的关系图