两个3x3卷积核替代一个5x5卷积核

AlexNet中为了增大感受野使用了11×1111\times115×55\times53×33\times3三种卷积核。而VGG16说明了两个3×33\times3的卷积核和一个5×55\times5的卷积核感受野相同,从而可以使用两个3×33\times3的卷积核替代一个5×55\times5的卷积核。同理,可以使用三个3×33\times3的卷积核替代一个7×77\times7的卷积核,使用四个3×33\times3的卷积核替代一个9×99\times9的卷积核,依次类推。

1 为什么两个3×33\times3的卷积核和一个5×55\times5的卷积核感受野相同

1.1 用图说明

如下图所示:
两个3x3卷积核替代一个5x5卷积核

1.2 计算说明

假设feature map是28×2828\times28的,假设卷记的步长step=1step = 1padding=0padding = 0

  1. 使用一层5×55\times5卷积核,由(285)/1+1=24(28-5)/1+1=24可得,输出的feature map为242424*24
  2. 使用两层3×33\times3卷积核
    1. 第一层,由(283)/1+1=26(28-3)/1+1=26可得,输出的feature map为26×2626\times26
    2. 第二层,由(263)/1+1=24(26-3)/1+1=24可得,输出的feature map为24×2424\times24

可以看到最终结果两者相同。

2 使用小卷积代替打卷机的好处

  1. 保证具有相同感受野的条件下,提升了网络的深度,在一定程度上提升了网络效果(从这点来说,也说明了ResNet的巨大作用)
  2. 保证具有相同感受野的条件下,减少了计算量和参数量