k近邻法

$k$k近邻法是一种基本分类与回归方法。$k$k近邻的输入为实例的特征向量，对应于特征空间的点；输出为实例的类别，可以取多类。$k$k近邻法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其$k$k个最近邻的训练实例的类别，通过多数表决等方式进行预测。因此，$k$k近邻法不具有显式的学习过程。$k$k近邻法实际上利用训练集对特征向量空间进行划分，并作为其分类“模型”。$k$k值得选择，距离度量及分类决策规则是$k$k近邻法的三个基本要素。

k紧邻算法

• 输入：训练数据集
  $T = \{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}$T={(x1​,y1​),(x2​,y2​),...,(xN​,yN​)}
  其中，$x_i\in \mathcal{X}\subseteq \bold{R}^n$xi​∈X⊆Rn为实例的特征向量，$y_i\in \mathcal{Y}=\{c_1,c_2,...,c_K\}$yi​∈Y={c1​,c2​,...,cK​}为实例的类别，$i=1,2,...,N$i=1,2,...,N；实例特征向量$x$x;
• 输出：实例$x$x所属的类$y$y。
• (1) 根据给定的距离度量，在训练集$T$T中找出与$x$x最邻近的$k$k个点，涵盖这$k$k个点的$x$x的淋浴记作$N_k(x)$Nk​(x)；
• (2) 在$N_k(x)$Nk​(x)中根据分类决策规则（如多数表决）决定$x$x的类别$y$y：
  $y = argmax_{c_j}\sum_{x_i\in N_k(x)}I(y_i=c_j), i=1,2,...,N; j=1,2,...,K$y=argmaxcj​​xi​∈Nk​(x)∑​I(yi​=cj​),i=1,2,...,N;j=1,2,...,K
  其中$I$I为指标函数，即当$y_i=c_j$yi​=cj​时$I$I为1，否则$I$I为0。

k近邻模型

• $k$k近邻法使用的模型实际上对应于对特征空间的划分。模型由三个基本要素—距离度量、$k$k值得选择和分类决策规则决定。
• 模型
  特征空间中，对每个训练实例点$x_i$xi​，距离该店比吉他点更近的所有点组成一个区域，叫作单元。每个训练实例点拥有一个单元，所有训练实例点的单元构成对特征空间的一个划分。最近邻法将实例$x_i$xi​的类$y_i$yi​作为其单元中所有点的类标记。这样，每个单元的实例点的类别是确定的。
  
• 距离度量
  特征空间中两个实例点的距离是两个实例点相似程度的反映。由不同的距离度量所确定的最近邻点是不同的。
• k值得选择
  $k$k值得选择会对$k$k近邻法的结果产生重大影响。
• 分类决策规则
  $k$k近邻法中的分类决策规则往往是多数表决，即由输入实例的$k$k个近邻的训练实例中的多数类决定输入实例的类。

k近邻法的实现：kd树

• 实现$k$k近邻法时，主要考虑的问题是如何对训练数据进行快速$k$k近邻搜索。这点在特征空间的维数大及训练数据容量大时尤其必要。为了提高$k$k近邻搜索的效率，可以考虑使用特殊的结构存储训练数据，以减少计算距离的次数。
• 构造kd树
  kd树是一种对$k$k维空间中的实例点进行存储以便对其进行快速检索的树形结构。kd树是二叉树，表示对$k$k维空间的一个划分。构造kd树相当于不断地用垂直于坐标轴的超平面将$k$k维空间切分，构成一系列的$k$k维超矩形趋于。kd树的每个结点对应于一个$k$k维超矩形趋于
  构造平衡kd树
  输入：$k$k维空间数据集$T=\{x_1,x_2,...,x_N\}$T={x1​,x2​,...,xN​}，其中$x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(k)})^T,i=1,2,...,N$xi​=(xi(1)​,xi(2)​,...,xi(k)​)T,i=1,2,...,N；
  输出：kd树。
  (1) 开始：构造根结点，根节点对应于包含$T$T的$k$k维空间的超矩形趋于。选择$x^{(1)}$x(1)为坐标轴，以$T$T中所有实例的$x_{(1)}$x(1)​坐标的中位数为切分点，将根结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴$x^{(1)}$x(1)垂直的超平面实现。由根结点生成深度为1的左、右子节点：左子结点对应坐标$x^{(1)}$x(1)小于切分点的子区域，右子结点对应于坐标$x^{(1)}$x(1)大于切分点的子区域。将落在切分超平面上的实例点保存在根结点。
  (2) 重复：对深度为$j$j的结点，选择$x^{(l)}$x(l)为切分的坐标轴，$l=j(modk)+1$l=j(modk)+1，以该结点的区域中所有实例的$x^{(l)}$x(l)坐标的中位数为切分点，将该结点对应的超矩形区域切分为两个子区域。切分由通过切分点并与坐标轴$x^{(l)}$x(l)垂直的超平面实现。由该结点生成深度为$j+1$j+1的左、右结点：左子结点对应坐标$x^{(l)}$x(l)小于切分点的子区域，右自己点对应坐标$x^{(l)}$x(l)大于切分点的子区域。将落在切分超平面上的实例点保存在该结点。
  (3) 直到两个子区域没有实例存在时停止。从而形成kd树的区域划分。
• 搜索kd树
  利用kd树可以省去大部分数据点的搜索，从而减少搜索的计算量。
  用kd树的最近邻搜索
  输入：已构造的kd树；目标点$x$x；
  输出：$x$x的最近邻。
  (1) 在kd树中找出包含目标点$x$x的叶结点：从根结点出发，递归地向下访问kd树。若目标点$x$x当前维的坐标小于切分点的坐标，则移动到左子结点，否则移动到右子结点。直到子结点为叶结点为止。
  (2) 以此叶结点为“当前最近点”。
  (3) 递归地向上回退，在每个结点进行以下操作：
  (a) 如果该结点保存的实例点比当前最近点距离目标点更近，则以该实例点为“当前最近点”。
  (b) 当前最近点一定存在于该结点一个子结点对应的区域。检查该子结点的父结点的另一子结点对应的区域是否有更近的点。具体的，检查另一子结点对应的区域是否与以目标为球心、以目标点与“当前最近点”间的距离为半径的超球体相交。如果相交，可能在另一个子结点对应的区域内存在距离目标点更近的点，移动到另一个子结点。接着，递归地进行最近邻搜索；如果不想交，向上回退。
  (4) 当回退到根结点时，搜索结束。最后的“当前最近点”即为$x^{(l)}$x(l)的最近邻点。
  如果实例点是随机分布的，kd树搜索的平均计算发咋读是$O(logN)$O(logN)，这里$n$n是训练实例数。kd树更适用于训练实例数远大于空间维数时的$k$k近邻搜索。当空间维数接近训练实例数时，它的效率会迅速下降，几乎接近线性扫描。