Tensorflow笔记之前向传播算法简介

 前面已经说到神经网络可以将输入的特征向量经过层层推导到最后输出，并通过这些输出解决分类问题或回归问题。那么如果要得到输出就需要一个最简单的算法----前向传播算法。想要了解前向传播算法就需要知道神经元。一个神经元有多个输入和一个输出。每个神经元既可以是其他神经元的输出，也可以是整个神经网络的输出。所谓的神经网络结构就是指不同神经元之间的连接结构。

最简单的神经元输出就是输入的加权和，不同的输入权重就是神经元的参数。而神经网络的优化过程即使优化神经网络参数的取之过程。

全链接网络：神经网络相邻两层之间任意两个节点之间都有连接。

计算机神经网络的前向传播结果需要三部分信息：第一部分是神经网络的输入也就是从实体提取的 特征向量。如上图所示的两个输入。第二个部门为神经网络的连接结构。前向传播算法的示意图如下图所示：

Tensorflow中上述的代码如下：

a=tf.matmul(x,w1)
y=tf.matmul(a,w2)