莫烦-一个简单的神经网络例子 中文注释

from __future__ import print_function #使用print就得像python3.X那样加括号使用。python2.X中print不需要括
import tensorflow as tf
import numpy as np
import matplotlib.pyplot as plt #风格与MATLAB类似，可以方便的绘制图像、展示结果。

def add_layer(inputs, in_size, out_size, activation_function=None):
    #定义一个层，
    Weights = tf.Variable(tf.random_normal([in_size, out_size]))
    #生成随机的，比全都是0好很多
    biases = tf.Variable(tf.zeros([1, out_size]) + 0.1)
    #这个只有1行，但有很多列,不推荐为0所以加0。1
    #在Tensorflow中，定义了某字符串是变量，它才是变量，这一点是与Python所不同的
    Wx_plus_b = tf.matmul(inputs, Weights) + biases #公式
    if activation_function is None:
        outputs = Wx_plus_b
    else:
        outputs = activation_function(Wx_plus_b)
    return outputs
#当activation_function——激励函数为None时输出就是当前的预测值——Wx_plus_b，不为None时，就把Wx_plus_b传到activation_function()函数中得到输出。

Make up some real data

x_data = np.linspace(-1, 1, 300, dtype=np.float32)[:, np.newaxis]#建立一个一位数组，等差数列，300行，转换维度方便相乘
noise = np.random.normal(0, 0.05, x_data.shape).astype(np.float32)#高斯分布，randn正态分布，中心0，方差0。05，与x一样的数值类型
y_data = np.square(x_data) - 0.5 + noise#加一个偏差

##plt.scatter(x_data, y_data)
##plt.show()

define placeholder for inputs to network

xs = tf.placeholder(tf.float32, [None, 1])
ys = tf.placeholder(tf.float32, [None, 1])
#Tensorflow 如果想要从外部传入data, 那就需要用到 tf.placeholder(), 然后以这种形式传输数据

add hidden layer

l1 = add_layer(xs, 1, 10, activation_function=tf.nn.relu)#之前已经定义好了函数

add output layer

prediction = add_layer(l1, 10, 1, activation_function=None)

the error between prediction and real data

loss = tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction), reduction_indices=[1]))
train_step = tf.train.GradientDescentOptimizer(0.1).minimize(loss)#选择梯度下降，学习率0.1，最小化误差

important step

sess = tf.Session()

tf.initialize_all_variables() no long valid from

2017-03-02 if using tensorflow >= 0.12

if int((tf.__version__).split('.')[1]) < 12 and int((tf.__version__).split('.')[0]) < 1:
    init = tf.initialize_all_variables()
else:
    init = tf.global_variables_initializer()#python3都是使用这种结构了
sess.run(init)#首先运行init这个功能

for i in range(1000):
    # training
    sess.run(train_step, feed_dict={xs: x_data, ys: y_data})
    if i % 50 == 0:
        # to see the step improvement
        print(sess.run(loss, feed_dict={xs: x_data, ys: y_data}))