PyTorch入门实战教程笔记（十九）：卷积神经网络CNN 1

卷积神经网络基本概念
对于神经网络有几层，第一层为输入层，是不计算在内的，下图有3个隐藏层1个输出层，所以是4层的神经网络。每一层包含输入它的参数和它的输出。对于MiNIST数据集，28*28 输入为784，参数一共390k，1.6M存储。

但是虽然1.6M存储，在当时储存计算也是非常困难的，计算机学家就利用模仿人眼的一个局部相关性，提出的网路叫做卷积神经网络，卷积指的是局部相关性，每次感受的是小的视野，而且小窗口会移动，且权值是共享的，能够大大减少参数量。卷积操作解释可参考：深度学习之CNN入门：1.卷积神经网络，简单的说，图像中的卷积操作就是利用卷积核在图片上按照一定步长进行滑动，并将对应位置进行点成运算，然后将点成运算结果累加成一个数值，即为下一个feature map的点。
卷积神经网络
首先我们来看一下，对于2D的图片数据，是怎么进行卷积运算的，假设图像数据为I(x,y),卷积核kernel为k(x,y)，卷积核是什么类型的就会生成什么类型的数据，比如，边缘，模糊等；生成的数据feature map为F(x,y),然后按照卷积公式运算，对于离散数据来说，积分等于累加和。此外，可以算出对于2828的图片，经过33的卷积核卷积之后，F的尺寸为26*26，如下图。（这个运算其实是有公式的，随后讲）。