Tensorflow中前向传播算法
神经网络的前向传播算法主要构成部分:
1.神经网络的输入;
2.神经网络的连接结构;
3.每个神经元中的参数。
为剪切图,为表示前向传播过程
由输入层的取值推导隐藏层取值,再由隐藏层取值推导输出层取值。
通过矩阵乘法计算前向传播算法:
输入层为1*2的矩阵x=[x1,x2] ,而输入层和隐藏层的连接权值W为一个2*3的矩阵:w=[w1,w2,w3,w4,w5,w6];
则通过矩阵乘法得到隐藏层中三个节点所组成的向量取值:a=[x1*w1+x2*w4,x1*w2+x2*w5,x1*w3+x2*w6]
再通过前向传播算法得出输出层:隐藏层和输出层间连接的权值用3*1矩阵s=[s1,
s2,
s3]表示(为便于区分);
则由a*s得到输出层:[y]=[(x1*w1+x2*w4)*s1+(x1*w2+x2*w5)*s2+(x1*w3+x2*w6)*s3]
用tensorflow程序实现则用到tf.matmul()函数,表示为:
a=tf.matmul(x,w)
y=tf.matmul(a,s)
其中,tf.matmul()函数实现了矩阵乘法的功能。