ResNet残差网络

ResNet(Residual Neural Network),使用Resnet unit训练出152层的神经网络,参数量比VGGNet低,其结构可以极快的加速神经网络的训练,模型的准确率有比较大的提升。

ResNet的主要思想是在网络中增加了直连通道,即Highway Network的思想,此前的网络结构是对输入做一个非线性变换,而Highway Network则允许保留之前网络层的一定比例的输出,

ResNet残差网络

   ResNet最大的区别在于有很多的旁路将输入直接连接到后面的层,这种结构也被称为shortcut或者skip connections。

ResNet残差网络

ResNet有不同的网络层数,比较常用的是50-layer,101-layer,152-layer。他们都是由上述的残差模块堆叠在一起实现的。

ResNet残差网络