tensorflow：损失函数和优化器

损失函数和优化器关系

1. 损失函数是在graph中定义的经过operation的tensor。

2.损失函数最终要带入到优化器的minimize方法中做参数。minimize方法内部包含了compute_gradients和apply_gradients方法。

3. 优化器的minimize方法返回的是operation，一般命名为train_step。

4.session的run方法的参数，如果是operation，则返回值为None；如果是tensor，则返回值是ndarray。因此sess.run(train_step,feed_dict)无返回结果，只起训练作用。

5.Variable定义时必须给出初始值。Variable是变量，其值保存在session中，session的global_variable_initializer实际上是初始值的保存。