Tensorflow实战1-搭建神经网络

Tensorflow简介

谷歌大脑自2011年成立起开展了面向科学研究和谷歌产品开发的大规模深度学习应用研究，其早期工作即是TensorFlow的前身DistBelief 。DistBelief的功能是构建各尺度下的神经网络分布式学习和交互系统，也被称为“第一代机器学习系统” 。DistBelief在谷歌和Alphabet旗下其它公司的产品开发中被改进和广泛使用 。2015年11月，在DistBelief的基础上，谷歌大脑完成了对“第二代机器学习系统”TensorFlow的开发并对代码开源。相比于前作，TensorFlow在性能上有显著改进、构架灵活性和可移植性也得到增强 。此后TensorFlow快速发展，截至稳定API版本1.12，已拥有包含各类开发和研究项目的完整生态系统。在2018年4月的TensorFlow开发者峰会中，有21个TensorFlow有关主题得到展示 。

直接上代码

#建立神经网路

import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt

#添加层
def add_layer(inputs,in_size,out_size,activation_function=None):
    Weights = tf.Variable(tf.random_normal([in_size,out_size]))
    biases = tf.Variable(tf.zeros([1,out_size])+0.1)#bias初始值推荐不为0
    Wx_plus_b=tf.matmul(inputs,Weights)+biases
    if activation_function is None:
        outputs=Wx_plus_b
    else:
        outputs=activation_function (Wx_plus_b) 
    return outputs

#Make up some real data
x_data=np.linspace(-1,1,50)[:,np.newaxis]
noise=np.random.normal(0,0.05,x_data.shape)
y_data=np.square(x_data)-0.5+noise



#建立一个输入层，一个隐藏层，一个输出层，隐藏层10个神经元，输入层：神经元=输入data（一个），输出层：神经元=输出data（一个）
xs=tf.placeholder(tf.float32,[None,1])
ys=tf.placeholder(tf.float32,[None,1])
l1=add_layer(xs,1,10,activation_function=tf.nn.relu)#add hidder layer
prediction=add_layer(l1,10,1,activation_function=None)#add output layer 

#the error between prediction and real data
loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),
                                    reduction_indices=[1]))
train_step=tf.train.GradientDescentOptimizer(0.1).minimize(loss)

init = tf.initialize_all_variables()
sess=tf.Session()
sess.run(init)

#x_data=np.reshape(x_data,(-1,50))
#y_data=np.reshape(y_data,(-1,50))


fig = plt.figure()
ax=fig.add_subplot(1,1,1)
ax.scatter(x_data,y_data)
plt.show()

for i in range(1000):
    sess.run(train_step,feed_dict={xs:x_data,ys:y_data})#training
    if i % 50==0:
       # print(sess.run(loss,feed_dict={xs:x_data,ys:y_data}))#to see step improvement
       prediction_value = sess.run(prediction,feed_dict={xs:x_data})
       lines = ax.plot(x_data,prediction_value,'r-',lw=5)
       ax.lines.remove(lines[0])
       plt.pause(0.1)
        

效果

本代码只是搭建了一个简单的神经网路，用来拟合一个二次函数。