TF Girls修炼指南学习笔记（3）

今天的笔记，将记录教程7-9：
7.解密神经网络 -- 数据流图谱
8.解密神经网络 -- 全连接神经网络
9.训练并测试神经网络

1.介绍一下神经网络

内容偏理论，作者的某些理解，值得借鉴。

Screen Shot 2017-06-09 at 9.47.49 AM.png

![Uploading Screen Shot 2017-06-09 at 9.49.56 AM_268541.png . . .]

按作者的说法，input指的是N或者M乘以权重以后得值，
激活函数在这里，只是求加权后的和。


计算图谱中，橙色虚线方形，是数据，而椭圆指的是计算。

所以就像下面的简化图，是一个道理。


微积分再一次在现代科学里，发生作用了。
对每一个变量求偏导数，得到是这每一个变量对最终值的影响。
为了能求导，激活函数就不可以选作只在某些区间上可导的函数。

Screen Shot 2017-06-09 at 9.52.30 AM.png

矩阵的不断相乘，每一层，输入乘以权重。

Screen Shot 2017-06-09 at 9.52.36 AM.png

Screen Shot 2017-06-09 at 9.53.12 AM.png