深度学习模型网络学习之分类网络学习

1. VGG

标题 Very Deep Convolutional Networks for Large-Scale Image Recognition
作者团队,发表时间 University of Oxford, ICLR-2015
文章解决的问题 提高分类准确率
解决的方案 只使用3x3的卷积,加深网络深度
实验与结果 1.数据库: ImageNet
2. 训练参数: momentum:0.9, the L2 penalty multiplier:5·10−4,dropout:0.5
3. 训练策略:learning rate initially:10−2, decreased by a factor of 10 when the validation set accuracy stopped improving;
2. 先训练小网络,然后用小网络的参数初始化大网络的前几层
4.Result:
总结

1.1 网络结构

深度学习模型网络学习之分类网络学习
Tips:
1. 结果表明,LRN层并没有多大用处
2. 作者提出,两个3x3的卷积和一个5x5的卷积有相同视野效果,并且由于relu的引入,在减少参数量的同时可以增加模型的表达能力。