理解全连接层与GAP

全连接层讲解
可以参照这牌你文章,里边全连接层讲的非常好。

全连接层缺点:
参数量过大,会导致过拟合。

所以现在会用一种GAP(全局平均池化)来代替全连接层。
GAP就是让一个H×W×C的输入变成一个1×1×C的输出,每个输出都是该层的像素的平均值。
理解全连接层与GAP
假设卷积层的最后输出是h × w × d 的三维特征图,具体大小为6 × 6 × 3,经过GAP转换后,变成了大小为 1 × 1 × 3 的输出值,也就是每一层 h × w 会被平均化成一个值。