您的位置: 首页 > 文章 > [读书笔记] MobileNet v1与v2读书笔记

[读书笔记] MobileNet v1与v2读书笔记

分类: 文章 • 2023-12-25 17:16:39

MobileNets：用于移动视觉应用的高效卷积神经网络
论文地址：https://arxiv.org/pdf/1704.04861.pdf

本文主要贡献：

设计了适合移动和嵌入式设备的有效模型
设计了两个超参数用于调节性能与参数和计算复杂度之间的平衡

结构介绍

核心思路是深度可分离卷积，即将一个常规卷积用一个空间卷积和一个点卷积代替，以减少网络参数与计算次数。
[读书笔记] MobileNet v1与v2读书笔记
常规卷积的参数数量为

D_{K} \cdot D_{K} \cdot M \cdot N \cdot D_{F} \cdot D_{F}

深度可分离卷积参数数量为

D_{K} \cdot D_{K} \cdot M \cdot D_{F} \cdot D_{F} + M \cdot N \cdot D_{F} \cdot D_{F}

实际网络结构

-

MobileNetV2：反向残差和线性瓶颈

本文主要贡献：

在MobileNet v1块的基础上增加了一个1*1的卷积层，作为MobileNet v2块
增加了与ResNet相似的残差连接
将块与块之间的RELU6操作改为了线性操作
改进了存储方式以占用更小的内存