【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)

一、卷积神经网络

4.如何构造3维卷积核

      彩色图像有三通道:R、G、B,故一张图像有三层,每层大小为6*6,3为通道数。卷积核也构造三层,每层为3*3,3*3*3最后一个3为通道数,所以卷积核中有27个数。将此卷积核以步长1扫过图片,得到4*4的二维输出图。输出图的一个元素等于输入图中卷积核扫过的红色9个数分别与27个数的乘积之和,加上绿色9个数分别与27个数乘积之和再加上蓝色九个数分别与27个数乘积之和的总和。

【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)

我们同样可以构造水平、垂直两种边缘检测器,甚至可以针对某种颜色做垂直、水平边缘检测。



【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)


5.如何构造单层卷积网络

【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)

上一节说道3*3*3的卷积核扫过6*6*3的图片得到一个4*4的输出图像,为每一个元素增加一个偏置b1(实数),得到的结果应用于一个**函数ReLU,得到个新的4*4的输出。相同的步骤再另一个卷积核上,最后得到一个4*4*2的输出。这就是卷积神经网络的一层。

【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)

输入图像为a[0],卷积核为w[1],偏置为b[1],**函数为g(),输出图像为a[1]=g(z[1]),其中z[1]=w[1]a[0]+b[1].两个卷积核就为两个特征。

练习:

【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)

答案为280个参数,不论输入图像为1000*1000还是5000*5000,参数都是有限的,这就是卷积神经网络的一个特点,叫做“避免过拟合”。


总结

【学习笔记2】吴恩达_卷积神经网络_第一周卷积神经网络(2)

A[l]=m*……这个式子中m为反向学习的例子个数???