【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

大家好,欢迎来到我们的星球知识小卡片专栏,本期给大家分享分组卷积网络模型的发展现状。

作者&编辑 | 言有三

1 卷积拆分的高效

我们常见的卷积是一个二维的操作,即一个卷积核在图像上进行滑动。如果再考虑上各个通道间的信息融合,那么就是一个三维的操作,包含了通道,宽度,高度三个维度。如果将各个维度进行拆分呢?会不会更加高效?

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

2 分组卷积萌芽

Laurent Sifre在Google实习的时候提出了depthwise separable convolution,从此分组卷积在模型设计中开始萌芽。

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

3 从Inception到Xception

Google提出的多尺度,更宽的InceptionNet取得了2014年ImageNet竞赛的冠军,比同期的VGG更深但是却更小,速度更快。Xception则将Inception的思想发挥到了极致,揭开了分组卷积大规模应用的序幕。

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

4 分组卷积基准

对于大部分同学来说,知道分组卷积就是从MobileNet开始的,它也是当前最重要的分组卷积基准模型。

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

5 多尺度分组网络

分组卷积模型的各个分支可以使用不同大小的卷积核,其中典型代表就是SqueezeNet。SqueezeNet是一个非常高效率的模型,它将AlexNet模型压缩到原来1/50,同时保证性能几乎不变。

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

6 其他

除了以上基本的变种,分组网络还有非常多的新方向,包括:

(1) 多尺度和多感受野分组卷积模型。

(2) 分组可学习的分组卷积模型。

(3) 多精度的分组卷积模型。

(4) 与残差网络的结合。

(5) 其他等等。

以上内容,如果你不想自己学习,可以去我们知识星球的网络结构1000变板块—分组网络板块阅读,纯属自愿,不愿勿喷。

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

有三AI知识星球

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

知识星球是有三AI的付费内容社区,里面包括各领域的模型学习,数据集下载,公众号的付费图文原稿,技术总结PPT和视频,知识问答,书籍下载,项目推荐,线下活动等资源,了解详细请阅读以下文章:

【杂谈】有三AI知识星球一周年了!为什么公众号+星球才是完整的?

【杂谈】万万没想到,有三还有个保密的‘朋友圈’,那里面都在弄啥!

转载文章请后台联系

侵权必究

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

【星球知识卡片】移动端高效率的分组网络都发展到什么程度了?

往期精选