深度学习:空洞卷积dilated convolution

https://zhuanlan.zhihu.com/p/43784441

一、空洞卷积概念

引入空洞卷积不得不提的是感受野,感受野就是卷积神经网络的每一层输出的特征图(fe ature map)上的像素点在原图像上映射的区域大小。空洞卷积主要为了解决图像分割中的一些问题而提出的在FCN中通过pooling增大感受野缩小图像尺寸,然后通过upsampling还原图像尺寸,但是这个过程中造成了精度的损失那么为了减小这种损失理所当然想到的是去掉pooling层,然而这样就导致特征图感受野太小,因此空洞卷积应运而生。

感受野: 卷积神经网络的每一层输出的特征图上的像素点在原图像上映射的区域大小

  • FCN 全卷积,图像分割,不含全连接层的全卷积网络(fully conv),可适应任意尺寸大小的输入 
  • 增大数据尺寸 反卷积层,能够输出精细的效果
  • 结合深度层结果的跳级skip结构,同时确保鲁棒性和精确性
  • https://blog.****.net/qq_36269513/article/details/80420363

空洞卷积顾名思义就是卷积的一种,如下图所示这个就是空洞卷积,这里stride:1,padding:0。这里空洞卷积有两种理解,一是可以理解为将卷积核扩展,如图卷积核为 深度学习:空洞卷积dilated convolution 但是这里将卷积核变为 深度学习:空洞卷积dilated convolution 即在卷积核每行每列中间加0。二是理解为在特征图上每隔1行或一列取数与 深度学习:空洞卷积dilated convolution 卷积核进行卷积。当然这里改变stride、padding空洞卷积就会和下图有区别。

深度学习:空洞卷积dilated convolution

三.空洞卷积的感受野

首先介绍cnn感受野计算公式: 深度学习:空洞卷积dilated convolution 这里 深度学习:空洞卷积dilated convolution 为本层感受野, 深度学习:空洞卷积dilated convolution 上层感受野, 深度学习:空洞卷积dilated convolution 卷积或池化的步长, 深度学习:空洞卷积dilated convolution 卷积核大小。例子如下(初始感受野大小为1):

深度学习:空洞卷积dilated convolution 卷积(stride=1): 深度学习:空洞卷积dilated convolution 感受野为 深度学习:空洞卷积dilated convolution

深度学习:空洞卷积dilated convolution 池化(stride=2): 深度学习:空洞卷积dilated convolution 感受野为 深度学习:空洞卷积dilated convolution

深度学习:空洞卷积dilated convolution 卷积(stride=3): 深度学习:空洞卷积dilated convolution 感受野为 深度学习:空洞卷积dilated convolution

空洞卷积的感受野计算方法和上面相同所谓的空洞可以理解为扩大了卷积核的大小,下面来介绍一下空洞卷积的感受野变化(卷积核大小为 深度学习:空洞卷积dilated convolution ,stride=1,下面的卷积过程后面的以前面的为基础):

1-dilated conv:rate=1的卷积其实就是普通 深度学习:空洞卷积dilated convolution 因此 深度学习:空洞卷积dilated convolution ( 深度学习:空洞卷积dilated convolution )卷积因此感受野为 深度学习:空洞卷积dilated convolution

2-dilated conv:rate=2可以理解为将卷积核变成了 深度学习:空洞卷积dilated convolution ,因此 深度学习:空洞卷积dilated convolution ( 深度学习:空洞卷积dilated convolution )感受野大小为 深度学习:空洞卷积dilated convolution 。

4-dilated conv:rate=3可以理解为将卷积核变成了 深度学习:空洞卷积dilated convolution 因此 深度学习:空洞卷积dilated convolution ( 深度学习:空洞卷积dilated convolution )感受野大小为 深度学习:空洞卷积dilated convolution

可以看到将卷积以上面的过程叠加感受野变化会指数增长,感受野公式为 深度学习:空洞卷积dilated convolution

3*3  5*5  9*9

深度学习:空洞卷积dilated convolution