【TensorFlow-CNN】LeNet5神经网络简介附TensorFlow源代码实现
一、前沿
本文代码是我在学习TensorFlow时写的第一个代码，主要是根据LeNet模型编写，但是自距此模型问世以来，深度学习领域发生了很大变化，所以其中某些方法和参数已经有所改变，目前此模型通过在GPU上训练，精确度可以达到98%左右，下面我将详细介绍Tensorflow中的实现，本教程适合TensorFlow的初学者，主要有以下特点：
- 使用Mnist数据集
- 测试精度可达98%
- 可视化输出
- 兼具卷积层、pooling（池化）层、dropout层、全连接层、softmax layer
- 提供两个实现此模型原始代码
代码实现：
这个仓库中有两个文件，基础版本（v1.0） 和 提高版本（v2.0）
- python LeNet_mnist_v1.0.py
- 基础版本，使用tf.nn.***函数实现，注重构造网络中的细节实现，容易理解CNN的运行原理，从细节理解CNN结构。
- python LeNet_mnist_v2.0.py
- 提高版本，使用tf.layer.***函数实现，使用tf框架提供的集成函数，特点是构造方便，宏观上更好理解，但是没有展现细节。
二、模型结构
三、代码实现简介
(1)定义的超参数：dropout层的保留概率/每次提取图片数目/迭代次数
train_keep_prop = 0.5/batch_size = 100/epcoh = 1000
可以更改这些参数，以改善训练结果。
(2)模型结构
input - 输入数据：Mnist
数据集被分成两部分：60000 行的训练数据集（mnist.train）和10000行的测试数据集（mnist.test），每张图片是 28*28*1，经过reshape后，维度格式为：[28,28,1]
conv1 - 卷积层：
卷积层：kenel：5*5*32，strides = 1,padding = SAME -->> [28,28,32]
池化层：ksize: 2*2 ,strides = 2 -->> [14,14,32]
drop层：keep_prop = train_keep_prop -->> [14,14,32]
conv2 - 卷积层：
卷积层：kenel：5*5*64，strides = 1,padding = SAME -->> [14,14,64]
池化层：ksize: 2*2 ,strides = 2 -->> [7,7,64]
drop层：keep_prop = train_keep_prop -->> [7,7,64]
Flaten层：
将[7,7,64]矩阵形式 -->> [7*7*64]向量形式
Fucn1 - 全连接层：
权重：[7*7*64,1024]
Fucn2 - 全连接层：
权重：[1024,10]
Softmax层：
输出one-hot向量，对应每一类的概率。
四、代码实现
这个仓库中有两个文件，基础版本（v1.0） 和 提高版本（v2.0）
- python LeNet_mnist_v1.0.py
基础版本，使用tf.nn.***函数实现，注重构造网络中的细节实现，容易理解CNN的运行原理，从细节理解CNN结构。
- python LeNet_mnist_v2.0.py
提高版本，使用tf.layer.***函数实现，使用tf框架提供的集成函数，特点是构造方便，宏观上更好理解，但是没有展现细节。
五、执行程序
执行命令： python LeNet_mnist_v1.0.py
执行命令：python LeNet_mnist_v2.0.py
六、训练结果