(39)五节课总结:反者道之动,弱者道之用。天下万物生于有,有生于无

接下来,在改进以后的代码(Artificial_Intelligence_Framework_Main.py)代码中,尝试设置4个隐藏层,hidden_nodes = [16,8,4,2],四个隐藏层分别为16个神经元,8个神经元,4个神经元,2个神经元,运行一下Artificial_Intelligence_Framework_Main.py:

(39)五节课总结:反者道之动,弱者道之用。天下万物生于有,有生于无_第1张图片

图 1- 74    4个隐藏层运行图

如图1-73所示,增加一个隐藏层增加了很多计算量,最开始的误差是0.13402363543834808,发现效果可能不会那么明显,因为虽然有这么多隐藏层,但我们的输入数据只有2个features,没必要设置那么多隐藏层,因此,最终运行的效果可能差不多。这里我们展示的是在实际生产生活中,作为技术的狂热追求者,在服务于企业的实际需要的时候,你的工作量会非常小,可以简单的将隐藏层从3层、或者5层,改成10层、100层,500层,就能极大的提升精确度。但是层数增多了,此时可能需要进行分布式深度学习。为什么分布式深度学习是可行的?因为我们的数据一般都为矩阵,矩阵可以分成很多部分,这个思路很简单。

在TensorFlow的可视化图中,重新设置为4个隐藏层,由于TensorFlow后台控制的原因,第1层隐藏层只能设置8个神经元,将第2层隐藏层设置5个神经元,第3层隐藏层设置3个神经元,第4层隐藏层设置2个神经元,选择Tanh激活函数,进行Classification计算。单击运行按钮,这个时候的计算速度会慢一些,因为隐藏层相对比较多,有更多的神经元,训练的过程就是调整权重Weight的过程。

(39)五节课总结:反者道之动,弱者道之用。天下万物生于有,有生于无_第2张图片

图 1- 75 TensorFlow 4个隐藏层

 
   

回到我们的BackPropagation.py代码,在计算Back Propagation的过程中,以下代码进行求导,然后更新权重:

……	
derivative = weight_to_node_error * (weight_to_node_value * (1 - weight_to_node_value )) * weight_from_node_value	
weights[j].set_value(weights[j].get_value() - derivative * learning_rate)     	
…..    	


在TensorFlow的可视化图中,例如查询第2个隐藏层的第2个神经元到第3个隐藏层的第2个神经元的权重,单击Weight边的那一刻的的权重是-0.33,再次单击一次查询,权重变成了-0.32,因为在每次训练的时候权重有所不同。

至此,我们在5节课内从零起步,在没有数学基础,没有Python基础的情况下,编码实现了类似于TensorFlow的AI框架。改进以后的代码(Artificial_Intelligence_Framework_Main.py)和Neuron_Network_Entry.py基本上没多大区别,思路是完全一样的,只是进行了微调。Forward  Propagation、Back Propagation就像一阴一阳,Forward  Propagation采用激活函数,Back Propagation对激活函数求导,然后调整权重。Forward  Propagation从左往右进行训练,Back Propagation从右往左进行反思调整,一正一反,Go backward to move forward,如果想前进,就要回顾过去,然后调整你的模式,在下一步的行动采用,调整权重参数向前进步,否则只能原地踏步。这也是道德经中“反者道之动,弱者道之用。天下万物生于有,有生于无”精髓的实现及应用,AI完美的演绎了“反者道之动”的思想,AI基于大数据的基础之上,AI如果要发挥出潜力,必须基于数据,AI对数据是很贪婪的状态,而数据本身是很柔弱的,例如 Goole、Facebook、Amazon等公司中每个用户的数据看上去举重若轻,但当规模比较大的情况下用户数据就很用,这是“弱者道之用”。天下万物生于有,有生于无,作为中国的技术人员,能够将道德经的思想变成代码,并且代码是极具商业价值的,在精神层面有寄托,在实际层面有成果,我们应该为此感到庆幸!  


     本文根据王家林老师《5节课内从零起步(无需数学和Python基础)编码实现AI人工智能框架电子书》整理。


(39)五节课总结:反者道之动,弱者道之用。天下万物生于有,有生于无_第3张图片

图 1- 76 反者道之动,弱者道之用。天下万物生于有,有生于无

(39)五节课总结:反者道之动,弱者道之用。天下万物生于有,有生于无_第4张图片


你可能感兴趣的:((39)五节课总结:反者道之动,弱者道之用。天下万物生于有,有生于无)