CNN卷积神经网络入门-吴恩达

第1层超参数：f[l]=3(过滤器大小)；s[l]=1(步长)；p[l]=0(padding大小)；n[l]C=10(过滤器个数)第1层输出图像：37*37*10，符号表示：n[1]H=n[1]W=37 ;n[1]c=10
第2层超参数：f[2]=5；s[2]=2；p[2]=0；n[2]C=20
第2层输出图像：17*17*20，符号表示：n[2]H=n[2]W=17 ;n[2]c=20
第3层超参数：f[3]=5；s[3]=2；p[2]=0；n[3]C=40
第3层输出图像：7*7*40，符号表示：n[3]H=n[3]W=17 ;n[3]c=40

• 
  
• 将第三层的输出展开成1960个元素
• 然后将其输出到logistic或softmax来决定是判断图片中有没有猫，还是想识别图像中K中不同的对象
  
  卷积神经网络层的类型：
• 卷积层(convolution,conv)
• 池化层(pooling,pool)
• 全连接层(Fully connected,FC)

7.池化层

最大池化（Max pooling）
最大池化思想很简单，以下图为例，把4*4的图像分割成4个不同的区域，然后输出每个区域的最大值，这就是最大池化所做的事情。其实这里我们选择了2*2的过滤器，步长为2。在一幅真正的图像中提取最大值可能意味着提取了某些特定特征，比如垂直边缘、一只眼睛等等。

以下是一个过滤器大小为3*3，步长为1的池化过程，具体计算和上面相同，最大池化中输出图像的大小计算方式和卷积网络中计算方法一致，如果有多个通道需要做池化操作，那么就分通道计算池化操作。

平均池化和最大池化唯一的不同是，它计算的是区域内的平均值而最大池化计算的是最大值。在日常应用使用最多的还是最大池化。

池化的超参数：步长、过滤器大小、池化类型最大池化or平均池化

8.卷积神经网络示例

以下是一个完整的卷积神经网络，用于手写字识别，这并不是一个LeNet-5网络，但是设计令该来自于LeNet-5。

网络各层参数个数表：