简介

简述全连接前向传播原理，与Tensorflow的矩阵乘法实现

全连接前向传播

概述

（图片来自Tensorflow实战Google 深度学习框架 第2版 第52页 图3-6 ISBN978-7-121-33066-7）
全连接：每一层神经网络与下一层神经网络的神经元都有连接
前向传播：每层的神经网络传播方向一致，从输入指向输出

在传播过程中，上一级的信号乘上一个权重作为 下一级信号的一部分（如图）

所以可以将传播方式写成矩阵乘法（仅展示输入层到隐藏层）

（公式来自Tensorflow实战Google 深度学习框架 第2版 第53页 ISBN978-7-121-33066-7）

矩阵乘法的Tensorflow函数实现

a = tf.matmul(x, w1)