深度学习模型网络学习之分类网络学习
1. VGG
标题 | Very Deep Convolutional Networks for Large-Scale Image Recognition |
---|---|
作者团队,发表时间 | University of Oxford, ICLR-2015 |
文章解决的问题 | 提高分类准确率 |
解决的方案 | 只使用3x3的卷积,加深网络深度 |
实验与结果 | 1.数据库: ImageNet 2. 训练参数: momentum:0.9, the L2 penalty multiplier:5·10−4,dropout:0.5 3. 训练策略:learning rate initially:10−2, decreased by a factor of 10 when the validation set accuracy stopped improving; 2. 先训练小网络,然后用小网络的参数初始化大网络的前几层 4.Result: |
总结 |
1.1 网络结构
Tips:
1. 结果表明,LRN层并没有多大用处
2. 作者提出,两个3x3的卷积和一个5x5的卷积有相同视野效果,并且由于relu的引入,在减少参数量的同时可以增加模型的表达能力。