常用卷积神经网络 -- DenseNet
与ResNet的主要区别在于，DenseNet里模块B的输出不是像ResNet那样和模块A的输出相加，而是在通道维上连结。这样模块A的输出可以直接传入模块B后面的层。在这个设计里，模块A直接跟模块B后面的所有层连接在了一起。 这也是它被称为“稠密连接”的原因。DenseNet 通过特征在channel上的连接来实现特征重用。
DenseNet的主要构建模块是稠密块(dense block)和过渡层(transition layer)。前者减少网络参数，后者则用来控制通道数。
一、稠密块：
二、网络结构：
1、稠密连接，减少网络参数
2、Batch Normalization + ReLU + 3*3 Conv层
3、过渡层包含瓶颈层和池化层
（1）瓶颈层，bottleneck layer，即1*1卷积层，用于减少参数。
（2）不能直接在各个层之间加入池化层，只能在各个Dense Block之间加入卷积层和池化层。
参考地址：https://www.jianshu.com/p/8a117f639eef
三、各种DenseNet对比图：