轻量化网络:EffNet解析
原文: EffNet: AN EFFICIENT STRUCTURE FOR CONVOLUTIONAL NEURAL NETWORKS
论文链接:https://arxiv.org/abs/1801.06434
原文链接:https://blog.****.net/u011961856/article/details/79143137?utm_source=blogxgwz5
EffeNet对MoblieNet网络进行改进,主要思想为:
首先,将MoblieNet的3×33×3的depthwise convolution层分解为两个3×13×1,1×31×3depthwise convolution层.这样便可以在第一层之后就采用pool操作,从而减少第二层的计算量.
如图1所示,在第一个卷积层之后,使用1×21×2 max pooling操作.在第二个卷积层之后,用2×12×1,stride=1的卷积核代替1×11×1pointwise convolution.这样计算量相同,但是可以有更高的精度.
作者试验了MobileNet,ShuffleNet,EffNet三种模块的分类网络,模型结构参数如下:
在Cifar10数据分类精度为:
EffNet large参数量基本与Baseline相同,精度提高接近8%.