tensorflow: name_scope 和 variable_scope区别及理解

1、name_scope命名域

（1）通过tf.name_scope()来实现，使用tf.Variable()创建变量时会自动加上词头；只要使用该函数，一律创建新的variable，如果出现重名，变量名后面会自动加上后缀1，2….；
（2）tf.get_variable()：如果变量存在，则使用以前创建的变量，如果不存在，则新创建一个变量。使用tf.get_variable()创建的变量没有词头；

import tensorflow as tf

with tf.name_scope('cltdevelop'):
    var_1 = tf.Variable(initial_value=[0], name='var_1')
    var_2 = tf.Variable(initial_value=[0], name='var_1')
    var_3 = tf.Variable(initial_value=[0], name='var_1')
    var_4 = tf.get_variable(name='var_4', shape=[1, ])
    var_5 = tf.get_variable(name='var_1', shape=[1, ])
print(var_1.name)
print(var_2.name)
print(var_3.name)
print(var_4.name)
print(var_5.name)

结果输出如下：

cltdevelop/var_1:0
cltdevelop/var_1_1:0
cltdevelop/var_1_2:0
var_4:0
var_1:0

2、variable_scope变量域

在tensorflow中变量共享机制是通过tf.get_variable()和tf.variable_scope()两者搭配使用来实现的。如下代码所示：

import tensorflow as tf

with tf.variable_scope('cltdevelop'):
    var_1 = tf.get_variable('var_1', shape=[1, ])
with tf.variable_scope('cltdevelop', reuse=True):
    var_2 = tf.get_variable('var_1', shape=[1,])
    var_3 = tf.Variable(initial_value=[0], name='var_1')
print(var_1.name)
print(var_2.name)
print(var_3.name)

结果输出如下：

cltdevelop/var_1:0
cltdevelop/var_1:0
cltdevelop_1/var_1:0

【注：】当 reuse 设置为 True 或者 tf.AUTO_REUSE 时，表示这个scope下的变量是重用的或者共享的，也说明这个变量以前就已经创建好了。但如果这个变量以前没有被创建过，则在tf.variable_scope下调用tf.get_variable创建这个变量会报错。如下：

import tensorflow as tf

with tf.variable_scope('cltdevelop', reuse=True):
    var_1 = tf.get_variable('var_1', shape=[1, ])

则上述代码会报错

ValueErrorL Variable cltdevelop/v1 doesnot exist, or was not created with tf.get_variable()