DL之ResNet：ResNet算法的相关论文、设计思路、关键步骤、实现代码等配图集合之详细攻略——daiding
DL之ResNet：ResNet算法的相关论文、设计思路、关键步骤、实现代码等配图集合之详细攻略——daiding
目录
1、ResNets @ ILSVRC & COCO 2015 Competitions
2、ILSVRC—Revolution of Depth 深度革命
ResNet算法的简介
来自微软研究院何恺明等 ，荣获ILSVRC2015的分类任务第一名、CVPR 2016 best paper 。ResNet使得训练深度达数百甚至数千层的网络成为可能，而且性能仍然优异。
1、ResNets @ ILSVRC & COCO 2015 Competitions
1st places in all five main tracks 五大tracks的第一名
- ImageNet Classification: “Ultra-deep” 152-layer nets
ImageNet分类：“超深”152层网 - ImageNet Detection: 16% better than 2nd
ImageNet检测：比第二个高16% - ImageNet Localization: 27% better than 2nd
ImageNet本地化：比第二个好27% - COCO Detection: 11% better than 2nd
COCO检测：比第2次好11% - COCO Segmentation: 12% better than 2nd
COCO分割：比第二个好12%
2、ILSVRC—Revolution of Depth 深度革命
论文
Kaiming He, XiangyuZhang, ShaoqingRen, & Jian Sun.
“Deep Residual Learning for Image Recognition”. CVPR 2016（best paper award）.
https://arxiv.org/abs/1512.03385
1、残差模块
- 增加了”短路”连接（shortcut connection)或称为跳跃连接（skip connection)
- 学习残差映射（residual mapping）而不是直接学习期望映射
- 瓶颈残差块，网络较深（大于50层）时使用后面这种（bottleneck)来提高效率
2、网络架构
- plain network：基于VGG19的架构把网络增加到34层
- Residual Network：plain network基础上增加残差模块
- 深度变化：34、50、101、152
3、实验结果
- 单个模型：top-5错误率为4.49%
- ensemble：top-5错误率为3.57%
ResNet算法的相关论文
Kaiming He, Xiangyu Zhang, Shaoqing Ren, and Jian Sun（2015）: Deep Residual Learning for Image Recognition. arXiv:1512.03385 [cs] (December 2015).
ResNet算法的设计思路
ResNet：方块对应【3*3】的卷积层，其特征在于引入了横跨层的快捷结构。
ResNet算法的实现代码
后期更新……