深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample

池化层pooling与采样

upsample与downsample

upsample是上采样,类似图片的放大

downsample是下采样,类似图片的缩小

比如这种隔行采样就是下采样

深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample

 

在卷积神经网络中使用的采样方式就是pooling,有点类似下采样,但不太一样

pooling也是把feature map变小的操作

pooling有多种方式,如max pooling, avg pooling

 

Max pooling是取窗口中最大的值

深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample这里的stride是2,如果是1的话生成的矩阵应该是3*3的了

 

Avg pooling 就是取窗口中数字的平均值

深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample

 

 

在最原始的LeNet5用的还不是pooling,用的是subsampling,就是downsampling,就是隔行采样

深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample

从AlexNet开始引入了pooling操作

 

pytorch的pooling操作

深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample

因为处理的是二维的图片,所以是MaxPool2d()

MaxPool2d第一个参数是window的大小,第二个参数是stride移动步长

两个都是2注定结果的size是原图的减半

同样pool操作也有nn.和F. 两个版本

 

upsample操作

upsample是通过插值,即interpolate

深度学习与神经网络(七)——卷积神经网络之池化 & upsample与downsample

scale_factor是放大几倍

mode有多种