卷积神经网络CNN前向后向算法
1.全局感受野与局部感受野
图中：~2B 表示 约2Billion，即约20亿参数
图中：4M 表示 4Million，即 400万参数
权重共享
2.卷积运算
记住一句话：相乘再相加
122 = 1 * 4 + 4 * 5 +1 * 8 + 1 * 1 + 4 * 8 + 3 * 8 + 3 * 3 + 3 * 6 + 1 * 6
通过卷积操作，得到一副特征图
用多种卷积核提取多个特征图
3.卷积尺寸变化
无法整除时
最后公式
4.CNN前向后向算法
- 这里：X 是输入图像矩阵，X~是我们写代码时必须对X做的变换，目的是有利于矩阵运算
- 这里的求导公式用到文章前馈神经网络公式推导提到的必须记忆的公式，贴出来如下
在运用这个公式的时候注意：前①②③公式的前提
输入Z_L和输出out 之间是线性连接的
单张图片CNN前向后向算法
图中可以看到：卷积核的尺寸是 2 x 2
在原图像X中，卷积核覆盖的像素值被拉成一条放在X~中，滑动卷积核，就可以将X -> X~,
同样将卷积核和输出y也拉成一竖条，便于 矩阵运算：y~ = x~* W~
y~ 和 x~是 线性连接的，故可以使用上述的几个公式，得到反向传播公式。
当有多张图片，多个卷积核时
通常我们训练网络时，传入到网络的是一个批的图像，原理其实和单张图片类似