图像分类：线性分类器-CS231N笔记

线性分类器有利于我们建起整个神经网络，和整个卷积网络。我们经常把神经网络比喻为乐高，你可以拥有不同种类的神经网络组件，你可以将这些组件组合在一起，来构建不同的大型卷积网络 ，线性分类器就是这些简单的组件。

比如我们的输入是一副图片，那么输出为这幅图像的一个描述。卷积神经网络只关注图像，而循环神经网络只关注语言，因此我们需要将两个网络连接在一起，就像玩乐高一样，再将其一起训练。

在KNN中我们没有设置参数，我们会保留所有的训练数据，但是在一个参数化的方法中，我们将总结我们对训练数据的认识并把所有的知识都用到这些参数w中，在测试的时候我们不再需要实际的训练数据，我们可以把它扔掉，在测试的时候，只需要这些参数W，这使得我们的模型更有效率。

线性分类器是参数模型中最简单的例子，输入的是图像，写入X，W为一组权重，输出为分类为各个类别的分数，那个得分最高的类别就为此输入的类别。X为一个3072*1的矩阵，W为10*372的矩阵，因此两者相乘为10*1，得到的就是10个类别所对应的分数。

因此每个类别都对应了一组权重W，也就是对应了一个类别，一旦出现了变形，一个单独的模板就不行了。线性分类器企图在决策边界画出一条线来区分不能的类别。

但是有些数据集就不能用一个线性分类器来分类。

功能函数为：f(x,w)=x*w+b，b为偏差