TensorFlow入门(三) TensorFlow运行模型——会话

1.3TensorFlow运行模型——会话

会话拥有并管理TensorFlow程序运行时的所有资源。当所有计算完成之后需要关闭会话来帮助系统回收资源，否则就可能出现资源泄漏的问题。TensorFlow中使用会话的模式一般有两种，第一种模式需要明确调用会话生成函数和关闭会话函数，这种模式的代码流程如下。

# 创建一个会话
sess = tf.Session()
# 使用这个创建好的会话来得到关心的运算的结果。比如可以调用sess.run(result),
# 来得到张量result的取值
sess.run(...)
# 关闭会话使得本次运行中使用到的资源可以被释放
sess.close()

使用这种模式时，在所有计算完成之后，需要明确调用Session.close函数来关闭会话并释放资源。然而，当程序因为异常而退出时，关闭会话的函数可能就不会被执行从而导致资源泄漏。为了解决异常退出时资源释放的问题，TensorFlow可以通过Python上下文管理器来使用会话。以下代码展示了如何使用这种模式。

# 创建一个会话，并通过python中的上下文管理器来管理这个会话
with tf.Session() as sess:
    # 使用这创建好的会话来计算关心的结果
    sess.run(...)
# 不需要再调用"Session.close"函数来关闭会话
# 当上下文退出时会话关闭和资源释放也自动完成了

通过Python上下文管理器的机制，只要将所有的计算放在“with”的内部就可以。当上下文管理器退出时会自动释放所有资源。这样既解决了因为异常退出时资源释放的问题，同时也解决了忘记调用Session.close函数而产生的资源泄漏。

TensorFlow会自动生成一个默认的计算图，如果没有特殊指定，运算会自动加入这个计算图中。TensorFlow中的会话也有类似的机制，但TensorFlow不会自动生成默认的会话，而是需要手动指定。当默认的会话被指定之后可以通过tf.Tensor.eval函数来计算一个张量的取值。以下代码展示了通过设定默认会话计算张量的取值。

sess = tf.Session()
with sess.as_default():
    print(result.eval())

以下代码也可以完成相同的功能。

sess = tf.Session()

# 下面的两个命令有相同的功能
print(sess.run(result))
print(result.eval(session=sess))

在交互环境下（比如Python脚本或者Jupyter的编辑器下），通过设置默认会话的方式来获取张量的取值更加方便。所以TensorFlow提供了一种在交互环境下直接构建默认会话的函数。这个函数就是tf.InteractiveSession。使用这个函数会自动将生成的会话注册为默认会话。以下代码展示了tf.InteractiveSession函数的用法。

sess = tf.InteractiveSession()
print(result.eval())
sess.close()

通过 tf.InteractiveSession 函数可以省去将产生的会话注册为默认会话的过程。无论使用哪种方法都可以通过 ConfigProto Protocol Buffer 来配置需要生成的会话。下面给出了通过 ConfigProto 配置会话的方法：

config = tf.ConfigProto(allow_soft_placement=True,
                        log_device_placement=True)
sess1 = tf.InteractiveSession(config=config)
sess2 = tf.Session(config=config)

通过ConfigProto可以配置类似并行的线程数、GPU分配策略、运算超时时间等参数。在这些参数中，最常使用的有两个。第一个是allow_soft_placement，这是一个布尔型的参数，当它为True的时候，在以下任意一个条件成立的时候，GPU上的运算可以放到CPU上进行：
1. 运算无法在GPU上执行。
2. 没有GPU资源（比如运算被指定在第二个GPU上进行，但是计算器只有一个GPU）。
3. 运算输入包含对CPU计算结果的引用。
这个参数的默认值为False，但是为了使得代码的可移植性更强，在有GPU的环境下这个参数一般设置为True。不同的GPU驱动版本可能对计算的支持有略微的区别，通过将allow_soft_placement参数设为True，当某些运算无法被当前GPU支持时，可以自动调整到CPU上，而不是报错。类似的，通过将这个参数设置为True可以让程序在拥有不同数量的GPU机器上顺利运行。

第二个使用比较多的配置参数是log_device_placement。这是一个布尔型的参数，当它为True时日志中将会记录每个节点被安排在了哪个设备上以方便调试。而在生产环境中将这个参数设置为False可以减少日志量。