斯坦福机器学习笔记-多分类问题

多分类问题

通常采用 One-vs-All,亦称 One-vs-the Rest 方法来实现多分类,其将多分类问题转化为了多次二分类问题。假定完成 KK 个分类,One-vs-All 的执行过程如下:

  1. 轮流选中某一类型 ii ,将其视为正样本,即 “1” 分类,剩下样本都看做是负样本,即 “0” 分类。
  2. 训练逻辑回归模型得到参数 θ(1),θ(2),...,θ(K)θ^{(1)},θ^{(2)},...,θ^{(K)} ,即总共获得了 K1K−1 个决策边界。
    斯坦福机器学习笔记-多分类问题
    给定输入 xx ,为确定其分类,需要分别计算 hθ(k)(x),k=1,...,Kh^{(k)}_θ(x),k=1,...,Khθ(k)(x)h^{(k)}_θ(x) 越趋近于 1, xx 越接近是第 kk 类:
    斯坦福机器学习笔记-多分类问题