【小知识】神奇的深度卷积神经网络AlexNet

图像分类的目的对于机器人具有重大意义,比如,将下图中的动物分类(或识别)为“雪豹”。

【小知识】神奇的深度卷积神经网络AlexNet

ImageNet网站拥有超过一千五百万张高精度图片,大致可以分为2.2万种类别,这些图片由亚马逊劳务众包平台“Amazon Mechanical Turk”搜集并予以标识。

ILSVRC是具有人工智能“世界杯”之称的ImageNet大规模视觉识别挑战赛,从下图可以看到,随着深度神经网络的研究不断深入,ImageNet分类误差越来越小。

【小知识】神奇的深度卷积神经网络AlexNet

深度卷积神经网络举例:SuperVision(SV)

l 7层隐藏加权层

l 650,000个神经元

l 60,000,000个参数

l 630,000,000次互连

采用了线性修正单元、重叠池化、dropout等技术。

AlexNet深度卷积神经网络的结构组成:

【小知识】神奇的深度卷积神经网络AlexNet

输入图片大小:227 x227 x 3

数据接受域(Receptionfield size)大小F:11

跨度stride:4

卷积层输出大小:55 x55 x 96

神经元总数量:55 x 55x 96 = 290,400,每个神经元具有11 x11 x 3 = 363个权值和1个偏置

因此,AlexNet的第一卷积层上的参数个数就有290,400 x 364 =105,705,600!

采用了训练速度更快的**函数RELU,f(x) = max(0, x)。

以CIFAR-10数据集为例,4层CNN的RELU的训练收敛速度是tanh的6倍。

更多内容下载地址:ImageNet Classification with Deep Convolutional Neural Networks

http://page2.dfpan.com/fs/5lccdj1282a17249163/

更多精彩文章请关注微信号:【小知识】神奇的深度卷积神经网络AlexNet